Коксон подчеркнул, что потенциальная мощь подобных систем вызывает серьезные опасения. Во время работы в Anthropic обсуждение угроз, связанных с развитием технологий, было регулярной практикой: сотрудники компании анализировали возможные последствия прогресса несколько раз в неделю.
Дискуссия о безопасности ИИ выходит далеко за пределы корпоративных лабораторий. Член палаты представителей США Анна Паулина Луна недавно обратилась к Пентагону с требованием внедрить протоколы экстренного отключения для всех систем искусственного интеллекта, работающих в оборонном секторе. Инициатива законодателя отражает растущую тревогу по поводу того, что автономные технологии могут выйти из-под контроля прежде, чем их поведение будет полностью изучено.
Комментарии (0)
Пока нет комментариев. Будьте первым!