Експерти оцінили ймовірність ШІ-апокаліпсису та склали рейтинг головних загроз штучного інтелекту

Експерти Массачусетського технологічного інституту оцінили ймовірність ШІ-апокаліпсису та назвали головні загрози розвитку технологій ШІ до 2030 року.

Дослідження MIT показало, які загрози штучного інтелекту вважають найнебезпечнішими до 2030 року, передає ВВС.

Розвиток ШІ викликає дедалі більше побоювань як у звичайних користувачів, і у фахівців. Згідно з дослідженням лабораторії Массачусетського технологічного інституту (MIT), ймовірність так званого ШІ-апокаліпсису оцінюється приблизно у 10%, а за відсутності ефективного контролю та регулювання може перевищити 20%. Таких висновків дійшли 272 експерти зі ШІ.

Фахівці також оцінили найбільш небезпечні сценарії розвитку технологій ШІ до 2030 року та склали рейтинг із 24 ризиків, визначивши для кожного з них катастрофічні наслідки, такі як загибель понад мільйон людей, економічні збитки понад 100 млрд доларів або руйнування демократичних норм і права на приватне життя.

Найбільшу тривогу у фахівців викликає ризик можливого виходу ШІ з-під контролю, коли система зможе самостійно вчитися заподіяти масштабну шкоду людству з різних причин:

- через технічні збої;

- дій зловмисників;

- розбіжності цілей ШІ з інтересами людини.

Серед можливого завдання шкоди:

- кібератаки;

- створення зброї;

- маніпулювання громадською думкою;

- втручання у політику;

- розроблення ще досконаліших систем штучного інтелекту.

Друге та третє місця у рейтингу ризиків посіли використання ШІ для створення озброєнь і надмірна концентрація технологічної влади у руках обмеженого кола компаній і держав. Побоювання масового безробіття виявилися лише на четвертій позиції.

Також найбільш уразливими до ризиків використання ШІ є інформаційні технології, національна безпека та фінансовий сектор. Саме ці сфери сильніше за інших піддаються кібератакам, дезінформації, маніпулюванню суспільною думкою та зловживанням з використанням нових технологій. У той же час готельний і ресторанний бізнес, сільське господарство, обробна промисловість, а також сфери культури та розваг поки що вважаються найбільш захищеними.

Як раніше Dialog.UA повідомляв, влада США негайно скликала керівників провідних технологічних компаній, щоб обговорити потенційні загрози нової моделі штучного інтелекту Mythos.

Також нагадаємо, що корпорація Microsoft скоротила понад 300 співробітників у ході перерозподілу фінансування на користь розвитку технологій ШІ для адаптації до нових умов ринку.