AI откри проблема в Coldcard само за $2 и 20 минути

За управляващия партньор на Dragonfly Хасиб Куреши най-важната част от експеримента с GLM 5.2 е била неговата цена:

„Работата на GLM 5.2 за 20 минути струва около $2. Какво означава това? Означава, че вече живеем в нов свят.“

Според информацията моделът е успял отново да открие уязвимостта, свързана с неотдавнашната кражба от ColdCard, след като изследователите са го насочили към засегнатия софтуер.

Няма доказателства, че крадците са използвали изкуствен интелект. Тестът по-скоро показва колко евтино нападателите и разработчиците вече могат да проверяват код, който защитава големи количества криптовалута.

Защо цената от $2 е толкова важна

Търсенето на сериозни софтуерни уязвимости традиционно изисква специализирани знания и много часове ръчна работа. Дори опитен анализатор може да провери само ограничен брой версии на фърмуер, смарт договори и криптографски библиотеки. Фърмуерът е вграденият софтуер, който управлява дадено устройство, а криптографските библиотеки съдържат готови инструменти за защита на данни и ключове.

AI позволява много по-голямо количество код да премине през първоначална проверка.

Анализаторите могат да възложат един и същ код на няколко модела, да поискат от тях да проверят различни начини, по които системата може да се провали, и да повторят процеса при появата на по-силен модел.

Повечето проверки може да не открият нищо полезно. Това обаче става по-малко важно, когато един опит струва само няколко долара. Човек, който търси слаби точки, може да анализира много различни цели, без да е необходимо всяка проверка да бъде успешна.

Само една истинска грешка в софтуер, който защитава милиони долари, може да оправдае разходите за хиляди неуспешни опити.

AI не е премахнал нуждата от експерти по сигурност. Той просто е намалил разходите за откриване на възможни следи, проверка на различни теории и преглеждане на повече код, отколкото един човек би могъл да анализира сам.

Какво всъщност показва тестът с GLM 5.2

Куреши посочва, че изследователите са помолили няколко модела да проверят софтуера, след като инцидентът с ColdCard вече е насочил вниманието към него.

По думите му на моделите не е било казано къде точно се намира уязвимостта, а GLM 5.2 я е открил за около 20 минути.

Контекстът обаче е важен. Анализаторите вече са знаели, че в съответния софтуер има сериозен проблем. Моделът не е търсил напълно на сляпо сред всички хардуерни портфейли и не е открил самостоятелно атака без никаква отправна точка.

Откриването на софтуерна грешка също е различно от използването ѝ за мащабна кражба. Един нападател може допълнително да трябва да:

• Установи кои устройства или портфейли са засегнати.
• Възстанови работещите частни ключове, които дават контрол върху средствата.
• Открие кои портфейли съдържат значителни суми.
• Премести средствата, преди потребителите или производителите да успеят да реагират.

Коментарите на Куреши не показват, че GLM 5.2 е извършил тези действия или че AI система е участвала в първоначалната кражба.

Експериментът доказва нещо по-ограничено, но все пак важно: универсален AI модел е успял бързо и срещу почти незначителен разход да открие отново основната техническа слабост.

Нападателите и разработчиците разполагат с един и същ инструмент

AI няма предпочитание дали да помага за по-сигурна среда или за успешна атака. Ефектът му зависи от задачата, която хората му поставят.

Нападател може да използва модел, за да проверява стар фърмуер, да автоматизира повтарящи се анализи и да тества възможни слабости. Производителят на портфейла може да използва същия модел преди пускането на продукта, като го насочи към създаването на ключове, подписването на трансакции и процедурите за възстановяване.

Разработчиците могат да проверят повторно и продукти, създадени преди появата на съвременните AI инструменти за програмиране. Софтуер, одитиран преди пет години, вече може да бъде анализиран с технологии, които не са съществували, когато е достигнал до потребителите.

Двете страни обаче не работят при еднакви условия.

Нападателят може да действа веднага щом потвърди полезна уязвимост. Разработчикът трябва да повтори откритието, да установи кои потребители са засегнати, да подготви безопасна корекция и да я разпространи, без да разкрива толкова много информация, че да улесни допълнителни атаки.

Моделите могат също да разберат кода погрешно, да посочат проблеми, които всъщност не съществуват, или да опишат атаки, които не работят в реални условия. Човешките изследователи продължават да носят отговорност за проверката на резултата и за решението колко бързо трябва да реагира проектът.

AI увеличава количеството код, което може да бъде проверено. Той не заменя експертните знания и бързата реакция, необходими след откриването на сериозна слабост.

Самостоятелното съхранение все още зависи от портфейла

Куреши описва засегнатите потребители като хора, които са следвали обичайните препоръки за сигурност:

„Хора, които са направили всичко както трябва.“

Те са преместили своя Биткойн извън борсите и са го съхранявали в специални хардуерни портфейли. Самостоятелното съхранение обаче все още зависи от това дали устройството създава и защитава ключовете правилно.

Според Куреши засегнатият фърмуер е използвал по-слаб от предвидения източник на случайни данни. Ако частният ключ е създаден чрез предвидими стойности, съхраняването на устройството офлайн не може впоследствие да направи ключа по-сигурен.

Пълното отделяне на устройството от интернет и други мрежи, известно като air gap, може да намали риска от дистанционни атаки срещу правилно създаден таен ключ. То обаче не може да поправи ключ, който е бил проблемен още от момента на създаването му.

Затова потребителите на хардуерни портфейли разчитат не само на начина, по който пазят своята фраза за възстановяване. Те трябва да се доверят и на фърмуера на производителя, дизайна на устройството, използваните криптографски библиотеки и системата за генериране на случайни числа.

Фактът, че в продължение на години не е била открита известна атака, показва, че софтуерът е издържал при обичайната употреба. Това обаче не доказва, че всички сериозни слабости вече са били открити.

Старият код на портфейлите трябва да бъде проверен отново

По-евтиният анализ с AI прави повторната проверка на стар код много по-лесна. Софтуер, който преди е привличал малко внимание, вече може да бъде анализиран многократно и в голям мащаб.

Производителите на портфейли и криптопротоколите трябва отново да проверяват по-старите си версии при появата на по-силни AI модели. Това е особено важно за код, който създава частни ключове, подписва трансакции или управлява възстановяването на портфейли.

Актуализацията на фърмуера няма да реши всеки проблем. Когато уязвимостта засяга начина, по който съществуващите ключове са били създадени, поправката може да защити новите портфейли, но старите да останат изложени на риск.

В такъв случай потребителите може да трябва да създадат изцяло нови ключове чрез поправената система и да прехвърлят средствата си. Затова доставчиците трябва да могат бързо да установят кои версии са засегнати, да се свържат с клиентите и ясно да обяснят как безопасно да преместят активите си.

Този процес създава възможности и за измамниците. След инциденти със сигурността често се появяват фалшиви акаунти за поддръжка, опасни сайтове за прехвърляне и съобщения, които искат от потребителите да потвърдят портфейлите си.

Потребителите никога не трябва да предоставят своята сийд фраза или частен ключ на служител от поддръжката, уебсайт, акаунт в социалните мрежи или AI чатбот. Законният процес за възстановяване не изисква друг човек или услуга да получи тези тайни данни.

Проверката за сигурност вече не може да бъде еднократна

Анализът с помощта на AI трябва да се превърне в нормална част от разработването, а не да се използва само след като вече са били откраднати средства.

Крипто компаниите трябва да обмислят:

• Проверка на новия код преди неговото пускане.
• Повторен анализ на стария фърмуер и програмните библиотеки при появата на по-силни модели.
• Използване на няколко различни модела, които да проверяват един и същ код от различни гледни точки.
• Потвърждаване на сериозните открития от опитни изследователи.
• Подготовка на планове за спешна комуникация и безопасно прехвърляне към нови портфейли.
• Поддържане на програми за отговорно съобщаване на уязвимости и награди за хората, които откриват софтуерни грешки.

Моделите осигуряват по-бърза и по-широка проверка. Екипите по сигурността обаче все още трябва да различават истинските уязвимости от грешните сигнали, да разработят поправка и да управляват последствията за потребителите.

Надпреварата в сигурността става все по-евтина

Примерът на Куреши не показва, че AI може да разбие кода на Биткойн. Той показва, че софтуерът, който защитава Биткойн, вече може да бъде проверяван за уязвимости срещу разход, който бързо се доближава до нулата.

Това развитие може да доведе както до по-висоока сигурност, така и до по-евтини атаки.

Разработчиците могат да използват AI, за да подлагат собствените си продукти на по-сериозни тестове и да откриват грешки преди пускането им. Нападателите могат да го насочат към забравен стар код, да повтарят проверките върху много различни цели и да действат при първия полезен резултат.

Технологията е достъпна и за двете страни. Крайният резултат зависи от това кой я използва, колко внимателно се проверяват откритията и колко бързо защитниците могат да реагират.

Проектите, които постоянно проверяват софтуера си отново, могат да се възползват от същите инструменти, които улесняват атаките. Тези, които разчитат на стари одити или приемат, че една дълго скрита грешка със сигурност вече би била открита, оставят тази възможност на някой друг.