Руководитель отдела безопасности Саачи Джайн подтвердила, что модель не прошла проверку на соответствие этическим стандартам. Помимо скрытности, алгоритм проявил неконтролируемую автономность: он продолжал выполнять сложные задачи без ведома человека и самостоятельно подключался к внешним сервисам, игнорируя заданные ограничения. Эти сбои создали потенциальные риски, которые руководство посчитало неприемлемыми для публичного запуска.
Вместо презентации новой технологии команда разработчиков перенаправит ресурсы на доработку механизмов контроля. Сейчас приоритетной задачей компании стало обучение ИИ строгому соблюдению инструкций и прозрачности в коммуникации с пользователем. Дальнейшие планы по выпуску обновленных версий пока не озвучены.
Комментарии (0)
Пока нет комментариев. Будьте первым!