Генеральный директор компании выложил на стол 100 биткойнов. «Берите, если сможете»

Майк Белш, соучредитель и генеральный директор американской компании BitGo, которая хранит криптовалюты для учреждений, перевел 31 июля 100 биткойнов на адрес кошелька BitGo и на следующий день опубликовал его в X. Монеты, стоимостью около 6,3 миллиона долларов, должны стать наградой для компании Anthropic, владельца моделей Claude, если ее искусственный интеллект сможет их оттуда извлечь. К понедельнику ни одна транзакция с адреса не была выполнена.

Белш не сделал этого без причины. За два дня до этого Anthropic «похвасталась» публично, что ее модели во время тестирования безопасности взломали системы трех реальных компаний. Генеральный директор BitGo посчитал, что это звучит более угрожающе, чем есть на самом деле, и решил проверить это способом, который нельзя интерпретировать двусмысленно: либо деньги исчезнут с адреса, либо нет.

Основные факты

• На публичном адресе лежит 100 BTC, что составляет около 6,3 миллиона долларов на момент депозита и примерно 23 миллиона злотых
• Депозит поступил 31 июля, вызов Белш объявил 1 августа
• Причиной является отчет Anthropic от 30 июля о трех инцидентах во время тестирования безопасности
• Компания проверила 141 006 тестов и нашла три, в которых ее модель вышла в интернет и вошла в системы трех организаций
• Монеты находятся в трастовой системе BitGo, где для выполнения перевода требуется несколько независимых ключей
• Anthropic не прокомментировала вызов публично, баланс адреса остается нетронутым

Что пошло не так в тестах Anthropic

Компании, занимающиеся искусственным интеллектом, проверяют перед премьерой, могут ли их модели проводить атаки на информационные системы. Это делается на закрытом полигоне, отключенном от интернета. Модель получает фиктивную сеть и задание: взломать указанный компьютер и извлечь скрытую строку символов. Это стандартное упражнение, на котором учатся также специалисты по кибербезопасности.

Проблема в том, что полигон не был герметичным. В отчете, опубликованном 30 июля, Anthropic написала, что машины, использованные в тестах, проводимых с внешней компанией Irregular, по ошибке имели доступ к сети, хотя в задании для модели было четко указано, что интернета нет. Когда поиски вывели модель на реальные серверы, она приняла их за часть задания и атаковала. В трех случаях из 141 006 проверенных тестов это закончилось входом в информационные системы компаний.

Техники, которые использовала ИИ, были простыми. Использование слабого пароля, точки доступа без аутентификации, пароля, считанного с оставленной без защиты технической страницы. Ни одной новой уязвимости модель не нашла и не использовала. Самый серьезный результат — доступ к базе с несколькими сотнями строк данных. Обзор начался только после того, как конкурент OpenAI объявил в сообщении от 21 июля, что его модели вырвались из закрытой среды через ранее неизвестную уязвимость и попали в инфраструктуру Hugging Face.

Почему именно кошелек с биткойнами

Белш считает, что описанные Anthropic события говорят больше о небрежном полигоне, чем о возможностях моделей. Войти открытыми дверями может каждый, а открыть замок — уже нет. Он написал, что компания либо плохо строит свои песочницы, либо очень хорошо занимается маркетингом, и предложил проверку без открытых дверей. Уже в июне он ставил под сомнение циркулирующие слухи о том, что модель Mythos самостоятельно вошла в секретные государственные системы, указав, что это было контролируемое упражнение.

Сам биткойн здесь не является объектом атаки, потому что его криптография не взламывается. Чтобы переместить чужие монеты, нужно получить приватный ключ, то есть секретную строку символов, дающую право распоряжаться средствами. В системе BitGo такого одного ключа нет. Право подписи разбито между несколькими независимыми ключами, хранящимися отдельно, а транзакция требует согласия более чем одного из них. Украсть один пароль ничего не дает.

Тем не менее, стоит знать, чем этот тест не является. Белш не построил никакого эксперимента. Он не предоставил систему, не описал задание, не указал даже, какая модель должна была стартовать. Он поставил ясную цель, баланс которой каждый может наблюдать в блокчейне. Отсутствие движения на адресе не означает, что Claude попытался и проиграл, потому что языковые модели не ищут в интернете награды по своей воле. Кто-то должен был бы сначала приказать им. Сам BitGo в письмах для регуляторов, кстати, признает, что ни одна система хранения не устойчива к хакерским атакам.

Неделя, в которую биткойны исчезали без участия ИИ

Параллельно продолжается подсчет убытков после атаки на аппаратные кошельки Coldcard. Нападающий смог восстановить приватные ключи пользователей, потому что устройства на протяжении многих лет генерировали их предсказуемым образом. Виной был баг в программном обеспечении, загруженном еще в марте 2021 года. По оценкам Galaxy Research, в трех волнах пропало 1367 BTC, что составляет почти 89 миллионов долларов, с более чем четырех тысяч адресов.

Вывод неудобен для обеих сторон спора. Деньги в криптовалютах исчезают из-за пятилетней ошибки в коде и из-за плохо сконфигурированной тестовой машины, а не из-за модели, которая придумала что-то, чего никто раньше не мог. Anthropic в своем отчете пишет точно то же самое, только языком анализа после внедрения. Тем временем Белш выложил на стол 100 биткойнов и ждет результата.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.