Anthropic otkrio četvrti incident hakiranja uz pomoć umjetne inteligencije

Kompanija Anthropic saopćila je u srijedu da je identificirala četvrti incident u kojem je jedan od njenih modela umjetne inteligencije tokom sigurnosnog testa neovlašteno pristupio stvarnom sistemu treće strane.

Incident se dogodio u januaru, a u njega je bila uključena rana verzija modela Claude Opus 4.6, navela je kompanija u svojoj procjeni.

Anthropic je saopćio da je slučaj otkriven prošlog mjeseca, nakon što je tokom prvobitne provjere izostavljen jedan skup relevantnih transkripata testiranja.

Kao i u tri incidenta koje je kompanija objavila u julu, model je trebao raditi u simuliranom okruženju bez pristupa internetu. Međutim, zbog greške u konfiguraciji testno okruženje je bilo povezano s otvorenim internetom.

Anthropic navodi da je model potom pristupio računaru treće strane i došao do ličnih podataka osobe povezane s tim sistemom. Kompanija je obavijestila pogođene strane.

U početnoj analizi kompanija je pregledala oko 141.000 transkripata kako bi identificirala tri ranija incidenta. Nakon otkrivanja četvrtog slučaja, pretraga je proširena na oko 481 milion transkripata, uključujući zapise iz procjena kibernetičke sigurnosti i drugih testnih okruženja.

Objava je uslijedila dan nakon što je Anthropicov istraživač Jacob Coxon podnio ostavku. Njegova objava na društvenoj mreži X, u kojoj je optužio kompanije koje razvijaju umjetnu inteligenciju da kockaju s našim životima, postala je viralna i dosegnula više od 140 miliona ljudi.

Coxon je također upozorio da će sistemi umjetne inteligencije uskoro moći hakirati bilo šta, preko noći revolucionirati bilo koju oblast i steći stvarnu moć i resurse.

Istovremeno je naveo da neki ljudi koji razvijaju ovu tehnologiju vjeruju da bi ona mogla dovesti do uništenja čovječanstva do kraja ove decenije.