Компания Anthropic, создатель нейросети Claude, выступила с призывом замедлить развитие искусственного интеллекта. Эксперты опасаются, что модели скоро начнут улучшать сами себя без участия человека.
Текущие возможности моделей
- нейросети уже генерируют более 80% всего внутреннего кода компании
- ИИ уступает живым разработчикам только в навыках поиска и постановки задач
- уровень автономности систем достиг критической отметки
- риск неконтролируемого рекурсивного самосовершенствования становится реальным
«Создатели Claude считают, что этого достаточно, и готовы остановить будущую разработку, если это сделают другие лаборатории», — говорится в отчете.
persik.by
Предложение по контролю
Авторы отчета предлагают регулировать разработку передового ИИ так же строго, как ядерное оружие. Компания готова приостановить свои исследования ради безопасности, но только при условии аналогичных действий со стороны конкурентов.
