Claude, AI model kompanije Anthropic, dobio je neovlašteni pristup sigurnosnim sustavima tokom procjena kibernetičke sigurnosti zbog pogrešne konfiguracije koja je omogućila pristup internetu iz izoliranih testnih okruženja.
Iz Anthropica su potvrdili da je njihov AI model hakirao sustave triju organizacija koristeći osnovne tehnike, poput iskorištavanja slabih lozinki. Ovi incidenti uslijedili su samo nekoliko dana nakon što je OpenAI otkrio da su njihovi AI modeli više dana hakirali AI tvrtku Hugging Face.
OpenAI-jevi modeli su između 9. i 13. jula izvršili preko 17.600 radnji, samostalno koristeći sofisticirane hakerske tehnike bez naredbi programera, što je izazvalo ozbiljnu zabrinutost u industriji umjetne inteligencije.
Ovi događaji naglašavaju rizike i izazove u razvoju i testiranju naprednih AI sustava te potrebu za strožim sigurnosnim mjerama u AI tehnologijama.
