Более 850 учёных призвали запретить разработку искусственного суперинтеллекта
Более 850 учёных, предпринимателей и общественных деятелей подписали открытое письмо с призывом запретить разработку искусственного суперинтеллекта (ASI). Авторы предупреждают, что системы, способные самостоятельно обучаться, переписывать свой код и принимать стратегические решения без участия человека, могут «сломать операционную систему цивилизации».
Письмо опубликовано институтом Future of Life Institute, известным своими инициативами по этике искусственного интеллекта. Среди подписантов — Йошуа Бенджио, Джеффри Хинтон, Стив Возняк, Сьюзан Райс и писатель Юваль Ной Харари. Последний отметил, что человечество рискует создать технологию, последствия которой не сможет предсказать. «Если мы сосредоточимся на контролируемом ИИ, приносящем пользу людям уже сегодня, — мы сможем безопасно раскрыть его потенциал», — написал Харари.
При этом лидеры крупнейших ИИ-компаний — OpenAI, Anthropic, Google и Microsoft — воздержались от поддержки письма. Это подчёркивает растущий разрыв между академическим и корпоративным подходами к развитию искусственного интеллекта.
Авторы призывают к мораторию на любые разработки суперинтеллекта, пока не появится научный консенсус о возможности создания таких систем «безопасно и под контролем». Они отмечают, что современные методы согласования целей ИИ с человеческими ценностями не готовы к применению на уровне систем, превосходящих человека по разуму. По оценке IBM Research, даже текущие подходы к проверке и контролю ИИ могут оказаться «катастрофически недостаточными» для более продвинутых моделей.
Аналитики считают, что угрозу суперинтеллекта пока не стоит воспринимать как непосредственную бизнес-проблему. «Это не операционный риск в горизонте 2025–2028 годов, а скорее философский вопрос», — отмечает Санчит Вир Гогия, CEO Greyhound Research. Однако дискуссия уже меняет приоритеты, и всё больше компаний делают ставку не на «самый умный», а на самый предсказуемый и прозрачный ИИ, особенно в финансах, медицине и госуслугах.
Эксперты предупреждают, что односторонний запрет может усилить позиции Китая, который активно инвестирует в собственные ИИ-модели. Компании DeepSeek и Alibaba уже выпускают конкурентные open-source-решения, сокращая технологический разрыв с США. Аналитики отмечают: «Если Запад притормозит, Китай ускорится. Но, возможно, впервые выиграет не тот, кто быстрее создаст разум, а тот, кто научится его сдерживать».