И Gemini на Google прониквал в компютърните системи на компании

Асистентът с изкуствен интелект Gemini на Google е проникнал в компютърните системи на три компании по време на тестове за киберсигурност. Google е потвърдил инцидентите, съобщи в. „Уолстрийт Джърнъл“.

Това следва поведение, което вече демонстрираха модели на конкурентите от OpenAI, Meta и Anthropic.

Засегнатите компании не се посочват поименно, но се знае че при едната Gemini е отгатнал пароли, за да получи достъп до защитена система. В другите два случая той е открил данни за вход в база данни. Фирмите са били информирани.

Инцидентите датират от май, а в Google разбират за тях през юли. Няма обаче нанесени щети и от компанията-майка решават, че не е необходимо да се оповестява публично.

Според компанията, ИИ е спрял атаките веднага щом е осъзнал, че е получил достъп до системите на реални компании, а не става дума за тестова симулация.

„Тези събития подчертават колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно“, коментира Хедър Адкинс, вицепрезидент по инженерна сигурност в Google.