Больше тысячи деятелей выступили с призывом приостановить создание сверхразумного ИИ

Более 1000 публичных деятелей, в том числе изобретатель, соучредитель Apple Стив Возняк, «крёстные отцы ИИ» Джеффри Хинтон и Йошуа Бенджио, выступили против разработки сверхразумного ИИ. Они подписали открытое письмо с призывом приостановить создание таких систем до того момента, пока не удастся удостовериться в том, что такая технология будет безопасной и контролируемой.

Среди подписавших — основатель Virgin Group Ричард Брэнсон, политики и военные эксперты, популярные актёры, музыканты, а также принц Гарри и Меган, герцог и герцогиня Сассекские. Письмо подготовлено группой по безопасности ИИ Future of Life Institute (FLI). В нём подчёркивается, что ИИ способен улучшить здоровье и качество жизни, но сверхразум, который компании планируют создать в ближайшие годы, может превзойти людей по всем когнитивным задачам и вызвать серьёзные риски.
Активисты предупреждают о возможных угрозах: утрата рабочих мест, ограничение прав и свобод, опасность для национальной безопасности и даже риск полного уничтожения человечества.
FLI на прошлой неделе сообщила, что OpenAI направила ей повестки в суд после призывов к контролю над ИИ. Глава OpenAI Сэм Альтман прогнозирует появление сверхразума к 2030 году и передачу ИИ до 40% нынешних экономических задач. Meta также развивает сверхинтеллект: её генеральный директор Марк Цукерберг заявил, что проект близок к реализации, хотя внедрение может быть отложено.
Прошлые письма, подобные этому, например, подписанное Илоном Маском в 2023 году, не имело практически никакого эффекта.