Сотрудники OpenAI, Google и Meta просят тормознуть ИИ: «Мир не готов к тому, что мы строим»

Почему люди, которые создают нейросети, сами просят нажать на тормоз

читать 4 мин
Сотрудники четырёх крупнейших ИИ-лабораторий мира подписали письмо с призывом замедлить гонку искусственного интеллекта

Более 1100 сотрудников из OpenAI, Google, Anthropic и Meta подписали обращение к правительству США. Суть проста: ребята, которые сами пилят нейросети, просят чиновников помочь притормозить гонку. Мол, общество не успевает переваривать то, что вылетает из лабораторий. Письмо опубликовало агентство Reuters.

Кто вообще просит нажать на паузу

Речь не о случайных людях из отдела кадров. Подписанты — инженеры, исследователи и разработчики, которые каждый день обучают модели, пишут промпты и тестируют то, что потом попадает к миллионам пользователей. То есть те самые люди, которые знают, что происходит под капотом, лучше всех.

Для контекста: OpenAI — это создатели ChatGPT и линейки GPT. Anthropic — конкуренты с моделью Claude. Google качает Gemini. Meta Марка Цукерберга развивает открытую Llama. Четыре лаборатории, которые прямо сейчас решают, каким будет ИИ через пять лет. И сотрудники всех четырёх говорят одно и то же: «Притормозите».

Claude Code и предупреждение изнутри

За месяц до письма создатель Claude Code — инструмента от Anthropic, который пишет код за программистов — публично предложил лабораториям скоординированную паузу. Его аргумент: скоро ИИ-системы смогут улучшать сами себя быстрее, чем люди успеют придумать, как с этим жить. Это не фантастика из фильма, а рабочий прогноз человека, который эту систему строит.

Кстати, Claude Code уже стал стандартом для кодинга с ИИ — контекстное окно на миллион токенов, дизайн, презентации, код. И именно его создатель говорит: «Нам нужна пауза». Задумайся.

ИИ-системы скоро смогут совершенствоваться быстрее, чем общество успеет управлять рисками. Это слова не журналиста, а человека, который эти системы создаёт.

persik.by

Это не первый раз, когда ИИ-шники бьют тревогу

В марте 2023 года Future of Life Institute опубликовал открытое письмо с призывом остановить обучение моделей мощнее GPT-4 на полгода. Подписали Илон Маск, Стив Возняк и куча исследователей. Тогда многие посмеялись. Паузы не случилось. Гонка только ускорилась.

Сейчас ситуация другая. Письмо пишут не сторонние наблюдатели, а инсайдеры. Те, кто видит, как модели галлюцинируют, обходят фильтры и выдают то, что не должны. Если интересно, вот как проверить ИИ на враньё за пару минут — спойлер: они врут постоянно.

Что происходит в гонке прямо сейчас

Пока сотрудники просят паузу, компании жмут на газ. OpenAI отложила релиз GPT-5.6 — но не из-за совести, а потому что власти США потребовали дополнительное тестирование. Anthropic оценили в триллион долларов — дороже, чем OpenAI. Китай вообще запретил экспорт своих моделей Qwen и GLM за рубеж.

Гонка идёт на всех фронтах. Китайская Kimi K3 обогнала американские аналоги по бенчмаркам. Траты на ИИ в 2026 году достигли 2,59 триллиона долларов. И при этом убыток OpenAI составил 38,5 миллиарда. Деньги горят, модели растут, сотрудники пишут письма.

Чего конкретно хотят подписанты

Письмо не требует закрыть лаборатории и выключить серверы. Речь о другом:

  • Создать международные инструменты для управления темпами развития ИИ
  • Дать правительству США мандат на координацию с другими странами
  • Разработать механизмы оценки рисков до релиза новых моделей
  • Ввести стандарты безопасности для систем, которые могут самообучаться

По сути, ребята просят не «остановите прогресс», а «дайте миру время подготовиться». Разница принципиальная.

Почему это важно даже если ты не айтишник

ИИ уже не абстракция. Netflix использует ИИ в 300 проектах. Яндекс диагностирует ДЦП у младенцев с точностью 90%. Хакеры обходят ИИ-сканеры с помощью описаний ядерного оружия. ИИ решает математические гипотезы, которые люди не могли закрыть десятилетиями.

Это уже не «когда-нибудь в будущем». Это сегодня. И люди, которые всё это строят, говорят: «Нам нужен тормоз». Не потому что они против прогресса. А потому что видят, что происходит, когда тормоза нет.