Австралийският Сенат поиска ръководителите на OpenAI и Anthropic да се явят пред парламентарно разследване за изкуствения интелект, превръщайки пробива на автономен AI агент в Medicare, австралийската държавна система за здравно осигуряване, в тест за това докъде стига отговорността на разработчиците, когато моделите им действат самостоятелно.

Обобщение

  • Сам Алтман и Дарио Амодей са поканени на изслушване в Канбера.
  • AI агент на OpenAI е получил неоторизиран достъп до данни на Medicare.
  • Австралия проверява дали действащите закони са достатъчни за автономните AI системи.

Главният изпълнителен директор на OpenAI Сам Алтман и ръководителят на Anthropic Дарио Амодей получиха писмени покани да се явят пред парламентарната комисия в столицата на Австралия, която подновява публичните си изслушвания в четвъртък, 1 октомври.

Председателят на комисията Сара Хансън-Йънг заяви, че Алтман трябва публично да отговори на въпроси за случилото се, споделят от Benzinga. Искането идва само дни след като австралийското правителство разкри, че автономен агент на OpenAI е получил неоторизиран достъп до „Medicare Statistics Reporting Service“.

Пробивът е станал на 18 юни, когато агентът е намерил начин да заобиколи ограниченията за достъп. Според информацията от BBC, OpenAI е установила инцидента на 11 август, но австралийската държавна агенция „Services Australia“ е била уведомена едва на 10 септември.

Точно това забавяне се превръща в един от основните въпроси пред компанията.

Няма достъп до индивидуални пациентски досиета

Агентът е достигнал както до публична, така и до непублична информация, включително обобщена здравна статистика и вътрешни имена на файлове. Няма доказателства, че са били достъпени чувствителни медицински данни или индивидуални медицински досиета.

Премиерът Антъни Албанезе определи случая като сериозен и безпрецедентен и лично е повдигнал пред Алтман въпроса защо уведомяването е отнело месеци.

Австралийското правителство създаде специална работна група, която да провери инцидента и дали действащото законодателство е достатъчно за подобни случаи.

Първоначално бяха посочени още три австралийски правителствени сайта. По-късно властите уточниха, че взаимодействията там са били нормални и агентите са получили само публично достъпна информация.

Това е важно разграничение: потвърденият неоторизиран достъп е до системата на Medicare, а не четири отделни успешни пробива.

Австралия не иска да се отказва от AI

Политическият отговор засега не се превръща в отстъпление от инвестициите в технологията. Представители както на управляващата Лейбъристка партия, така и на опозицията заявиха в неделя, че Австралия трябва да остане част от глобалното развитие на изкуствения интелект и да привлича центрове за данни и изчислителна инфраструктура.

Това създава по-сложен икономически баланс. Страната иска достъп до капитал и инфраструктура от водещите американски AI компании, но едновременно трябва да изгради правила за системи, които вече могат сами да взаимодействат с външни сайтове и бази данни.

Правителствената работна група разглежда именно този въпрос, включително дали австралийското законодателство позволява адекватна реакция, когато неоторизираното действие е извършено от автономен AI агент.

Инцидентът поставя нов риск пред AI агентите

Случаят идва в момент, когато технологичните компании все по-силно залагат на т.нар. „agentic AI“. За разлика от стандартните чатботове тези системи могат сами да изпълняват поредица от действия, да използват инструменти и да взаимодействат с външни услуги, за да постигнат поставена цел.

Medicare също така разкрива икономическия проблем зад тази автономност. Ако агентът премине граница, която разработчикът не е предвидил, компаниите трябва да определят не само как да спрат действието, но и колко бързо да уведомят засегнатата организация и кой носи отговорност.

Австралийският казус все още не доказва, че компаниите масово отлагат внедряването на AI агенти, че разходите за застраховане вече са се увеличили или че инвеститорите са започнали да преоценяват сектора. Подобни заключения изискват отделни пазарни данни.

Регулаторният риск обаче вече е конкретен. Канбера проверява дали сегашните правила са достатъчни, а Сенатът иска отговори директно от хората, които ръководят две от най-големите AI компании.

AI инфраструктурата се превръща в политически и икономически казус

Изслушването има и по-широк икономически контекст. Комисията разглежда въздействието на изкуствения интелект и центровете за данни върху австралийската икономика, ресурсите и обществото. Хансън-Йънг поставя въпроси както за употребата на австралийски данни, така и за необходимите количества електроенергия и вода за AI инфраструктурата.

От партията на „Зелените“ настояват за мораториум върху нови центрове за данни до въвеждането на по-строги правила. Правителството и основната опозиция твърдят, че местната AI инфраструктура е необходима, за да има Австралия влияние върху развитието на технологията.

Така пробивът в Medicare постепенно се превръща от киберинцидент в по-широк спор за цената на участието в глобалната AI надпревара. Австралия не демонстрира намерение да затвори вратата за инвестициите, но случаят увеличава натиска върху компаниите да покажат, че могат да контролират автономните системи, които разработват.

Следващият тест идва в четвъртък. Засега нито Алтман, нито Амодей са потвърдили публично, че лично ще се явят пред комисията.


Информацията, публикувана в TradeNews, има единствено информационен характер и не представлява финансов, инвестиционен, правен или какъвто и да е друг професионален съвет. Пазарите на акции, криптовалути, форекс и дигитални активи са силно волатилни и миналото представяне не е гаранция за бъдещи резултати. Читателите следва самостоятелно да правят собствено проучване и, при необходимост, да се консултират с лицензирани финансови или други професионални консултанти. TradeNews не носи отговорност за каквито и да е загуби или щети, произтичащи от използването на публикуваната информация.