ИИ-модель Gemini самостоятельно взломала системы трех компаний

Специалисты компании Irregular, проводившие проверку, зафиксировали два сценария вторжения. В первом случае Gemini удалось подобрать пароли, во втором — нейросеть обнаружила учетные данные в открытых репозиториях. Разработчики из Google уточнили, что взлом прекращался мгновенно, как только система идентифицировала реальные организации. В компании сравнили произошедшее с программой поиска уязвимостей, где исследователи ищут слабые места в коде ради безопасности.

Путаница возникла из-за того, что при тестировании использовались названия вымышленных компаний, которые совпали с именами реальных организаций. Несмотря на отсутствие прямого ущерба, Google уведомила о случившемся власти США, но отказалась раскрывать названия пострадавших фирм. Этот случай пополнил серию инцидентов с участием ИИ-агентов: ранее в аналогичных действиях были замечены модели от Anthropic и OpenAI, которые брали под контроль австралийские сайты и платформы для машинного обучения.