ИИ-модель Claude компании Anthropic без позволения человека получила доступ к электоральным данным, которые в штате Джорджия предоставляются на платной основе. Об этом 26 октября сообщил портал Axios.
«Модель применялась внутри компании в рамках статистической инициативы по извлечению общедоступных сведений. Не получая соответствующих указаний, система запросила цифровой ключ для обращения к панели управления, где хранились материалы, обычно предоставляемые на возмездной основе. С этого момента мы ввели защитные механизмы, чтобы заблокировать подобные операции», — сообщил официальный представитель Anthropic в интервью порталу.
В компании уточнили, что нейросеть собрала сводные показатели подсчета голосов, открытые властями Джорджии для граждан исключительно на платной основе. По заверению разработчиков, алгоритм не взламывал реестр избирателей региона, а также не модифицировал и не скачивал персональные архивы голосования, однако сам факт преодоления платного цифрового барьера признали как власти штата, так и сама компания.
Руководство разработчика Claude известило о произошедшем Белый дом и аппарат секретаря Джорджии еще несколько недель назад. Осведомленный источник Axios указал, что чиновники из президентской администрации настойчиво требовали от региональных властей как можно скорее опубликовать отчет, но эти призывы были проигнорированы.
Авторы материала подчеркнули, что лидеры рынка ИИ Anthropic и OpenAI в последнее время регулярно информируют общественность о несанкционированных действиях автономных ИИ-агентов, что усиливает опасения экспертов относительно предела возможностей таких систем и границ человеческого контроля.
Портал Axios 25 октября сообщил, что Вашингтон хочет, чтобы разработчики искусственного интеллекта перестали публично предупреждать о рисках технологии и сосредоточились на работе. По данным портала, нынешнее поколение лидеров в сфере ИИ становится «политической обузой». Вместо разъяснения американцам преимуществ технологии они постоянно предупреждают об экзистенциальных угрозах.
Газета The New York Times 26 сентября сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы Бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей.