Технологии
Технологични гиганти обединиха усилия срещу бъдещи кибератаки с ИИ
Financial Tribune
Група от 100 компании, сред които Google, Microsoft, Anthropic и OpenAI, подписа отворено писмо, призоваващо държавите и организациите по света да засилят киберзащитата си, преди изкуственият интелект да стане достатъчно мощен, за да я заобикаля, съобщава BBC.
В писмото се предупреждава, че кибератаките, използващи изкуствен интелект, ще станат по-масови и по-сложни само за броени месеци, тъй като технологията се развива с бързи темпове.
Според подписалите настоящите мерки за сигурност „няма да са достатъчни“, като те критикуват и „исторически недостатъчното финансиране“ на защитата на критичната инфраструктура.
„Разполагаме с ограничен времеви прозорец за подобряване на киберзащитата“, се посочва в началото на писмото.
Сред останалите компании, подписали документа, са банки като Capital One, операторите на платежни системи MasterCard и Visa, както и големи технологични компании като Adobe, Oracle и IBM. Те призовават правителствата да осигурят „способен защитен изкуствен интелект“, както и възможности за тестване на системите в болници и водоснабдителни дружества.
В същото време е факт, че някои от най-мощните системи за изкуствен интелект са разработени именно от част от тези компании – и не всички са свободно достъпни.
Разработеният от Anthropic изкуствен интелект Mythos според компанията може да открива за секунди уязвимости в системи, които дълго време са оставали извън обсега на човешки хакери. Той е открил уязвимост в стара платформа, която е останала неразкрита в продължение на 27 години. Anthropic е ограничила достъпа до Mythos с мотива, че системата е прекалено мощна и може да попадне в неподходящи ръце.
Междувременно група агенти с изкуствен интелект, тествани от OpenAI през юли, са успели да създадат тайни онлайн форуми, чрез които да комуникират помежду си и да си сътрудничат. В резултат те са извършили успешна атака срещу конкурентната компания Hugging Face, която също е подписала писмото. Инцидентът беше определен като първата в света кибератака, осъществена с помощта на изкуствен интелект. Hugging Face е използвала китайския инструмент за изкуствен интелект на компанията Z.AI при разследването на случилото се.
В писмото се отправя призив към правителствата, организациите, специалистите по киберсигурност и други компании за изкуствен интелект да работят заедно, за да поставят отбраната като приоритет и да тестват системите си спрямо възможностите на най-мощните модели с изкуствен интелект.
В САЩ сенатори предложиха нов закон, наречен „Закон за аварийния превключвател“, който би дал на властите правомощия да изключват неконтролируеми модели на изкуствен интелект.
