​Є педаль газу, але немає гальм: розробники ШІ попередили про небезпечний для людства сценарій

У технологічній компанії Anthropic попередили про загрозу неконтрольованого самовдосконалення штучного інтелекту.

Один з провідних гравців на ринку штучного інтелекту американська технологічна компанія Anthropic, яка є розробником мовних моделей Claude, попередила про ризики появи ШІ-систем, здатних самостійно створювати досконаліші версії себе, що потенційно може загрожувати людству.

Про це йдеться у доповіді компанії.

Однією з центральних ідей документа стало порівняння сучасної індустрії штучного інтелекту з автомобілем, який має потужну педаль прискорення, але відсутня повноцінна система гальмування.

На думку авторів доповіді, найбільші технологічні компанії продовжують нарощувати обчислювальні потужності та вдосконалювати моделі, проте ефективних міжнародних механізмів, які б дозволяли за необхідності уповільнити цей процес, поки що не існує.

Ключовою загрозою компанія називає сценарій так званого рекурсивного самовдосконалення.

Йдеться про ситуацію, за якої штучний інтелект отримує можливість самостійно проектувати, навчати та запускати нові покоління досконаліших ШІ-систем без безпосередньої участі людини.

Тобто фактично йдеться про сценарій, за якого ШІ виходить з-під контролю людини.

Фахівці звертають увагу на те, що приховати навчання нової моделі набагато простіше, ніж будівництво ракетної шахти.

Для зниження потенційних ризиків компанія виступає за розробку глобальної системи співробітництва між державами та провідними технологічними гравцями, яка дозволяла б координувати можливе уповільнення розвитку ШІ та моніторити, чи дотримуються учасники домовленостей.

Раніше Dialog.UA повідомляв, що американська влада провела термінову нараду з керівниками банків, щоб обговорити потенційні загрози, що походять від моделі ШІ Mythos компанії Anthropic.

Нагадаємо, у 2023 році Великобританія, США, ЄС, Австралія та Китай підписали першу декларацію про регламентацію правил роботи з ШІ.