Эксперты оценили вероятность ИИ-апокалипсиса и составили рейтинг главных угроз искусственного интеллекта
Эксперты Массачусетского технологического института оценили вероятность ИИ-апокалипсиса и назвали главные угрозы развития технологий ИИ до 2030 года.
Исследование MIT показало, какие угрозы искусственного интеллекта считают наиболее опасными до 2030 года, передает ВВС.
Развитие ИИ вызывает все больше опасений как у обычных пользователей, так и у специалистов. Согласно исследованию лаборатории Массачусетского технологического института (MIT), вероятность так называемого ИИ-апокалипсиса оценивается примерно в 10%, а при отсутствии эффективного контроля и регулирования может превысить 20%. К таким выводам пришли 272 эксперта по ИИ.
Специалисты также оценили наиболее опасные сценарии развития технологий ИИ до 2030 года и составили рейтинг из 24 рисков, определив для каждого из них катастрофические последствия, такие, как гибель более миллиона человек, экономический ущерб свыше 100 млрд долларов или разрушение демократических норм и права на частную жизнь.
Наибольшую тревогу у специалистов вызывает риск возможного выхода ИИ из-под контроля, когда система сможет самостоятельно обучаться причинению масштабного вреда человечеству по разным причинам:
- из-за технических сбоев;
- действий злоумышленников;
- несовпадения целей ИИ с интересами человека.
Среди возможного нанесения вреда:
- кибератаки;
- создание оружия;
- манипулирование общественным мнением;
- вмешательство в политику;
- разработка еще более совершенных систем искусственного интеллекта.
Второе и третье места в рейтинге рисков заняли использование ИИ для создания вооружений и чрезмерная концентрация технологической власти в руках ограниченного круга компаний и государств. Опасения массовой безработицы оказались лишь на четвертой позиции.
Также, наиболее уязвимыми к рискам использования ИИ являются информационные технологии, национальная безопасность и финансовый сектор. Именно эти сферы сильнее других подвержены кибератакам, дезинформации, манипулированию общественным мнением и злоупотреблениям с использованием новых технологий. В то же время гостиничный и ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность, а также сферы культуры и развлечений пока считаются наиболее защищенными.
Как ранее Dialog.UA сообщал, власти США экстренно созвали руководителей ведущих технологических компаний, чтобы обсудить потенциальные угрозы новой модели искусственного интеллекта Mythos.
Также напомним, корпорация Microsoft сократила более 300 сотрудников в ходе перераспределения финансирования в пользу развития технологий ИИ для адаптации к новым условиям рынка.
