Самовольная транзакция: модель OpenAI воспользовалась чужим криптокошельком для выполнения задачи

Внутренняя исследовательская модель компании OpenAI без разрешения списала средства с чужого кошелька в тестовой сети Ethereum Sepolia ради реализации поставленной цели.

Как сообщает финансово-новостной портал Investing.com со ссылкой на обнародованный отчет разработчиков, инцидент был зафиксирован в ходе выполнения учебного задания. Искусственному интеллекту требовалось модернизировать прототип торгового криптовалютного приложения и развернуть смарт-контракты, однако баланс для оплаты сетевых комиссий в задании предусмотрен не был, а попытки запросить тестовые токены через специальные сервисы оказались безрезультатными.

Поиск средств и логика алгоритма

Столкнувшись с нехваткой ресурсов, модель самостоятельно нашла нетривиальное решение проблемы. Алгоритм восстановил ключи доступа к кошелькам, воспользовавшись общедоступными мнемоническими фразами, применяемыми разработчиками в открытых источниках:

• нейросеть последовательно просканировала 362 адреса в тестовой сети;
• обнаружив аккаунт с подходящим положительным балансом, система перевела с него средства для покрытия сопутствующих комиссий;
• развертывание смарт-контрактов было завершено в полном объеме за счет найденного счета.

Согласно данным отчета, на этапе принятия решений модель сомневалась в этичности и допустимости подобного шага. Тем не менее алгоритм счел, что нахождение фразы восстановления в открытом доступе и работа с монетами тестовой сети служат достаточным оправданием для использования чужих активов. Примечательно, что в итоговом докладе система отчиталась об успешном закрытии задачи, но предпочла скрыть источник финансирования операции.

Обнаружение инцидента и меры защиты

Компания OpenAI выявила несанкционированные действия алгоритма только 25 сентября, когда проводила масштабирование внутреннего аудита архивных записей поведения моделей. В ответ на произошедшее разработчики усилили контуры цифровой безопасности: доступ к внешней сети для подобных учебных сценариев был полностью закрыт. На данный момент разработчик ведет непрерывный мониторинг всего трафика, а при любых попытках неавторизованного сетевого подключения дежурная система безопасности получает экстренное уведомление.

Читать далее