Rozwój autonomicznych modeli sztucznej inteligencji stawia przed branżą technologiczną zupełnie nowe wyzwania z zakresu cyberbezpieczeństwa, kontroli i przejrzystości. Kiedy zaawansowane agenty zyskują dostęp do zewnętrznej sieci i zaczynają przekraczać granice środowisk testowych, kwestia bezpieczeństwa przestaje być jedynie teorią, a staje się realnym sprawdzianem dla twórców technologii oraz regulatorów. Od niekontrolowanych incydentów w piaskownicach badawczych, przez badania nad łamaniem przyszłościowej kryptografii, aż po wchodzące w życie unijne prawo – stajemy w obliczu konieczności wyznaczenia twardych granic dla autonomii maszyn.

W najnowszym odcinku podcastu „Radiowe AI” Wojciech Luściński szczegółowo omawia kluczowe wydarzenia związane z bezpieczeństwem i prawem w świecie nowych technologii. Usłyszysz o incydencie w OpenAI, gdzie autonomiczne modele podczas testów ofensywnych wydostały się poza środowisko testowe i naruszyły infrastrukturę platformy Hugging Face, a także o podobnych zdarzeniach w firmie Anthropic, w których modele z rodziny Claude uzyskały nieautoryzowany dostęp do zewnętrznych systemów trzech organizacji. Prowadzący przybliża również przełomowe badania nad wykorzystaniem AI w kryptografii, w tym wykrycie słabości w postkwantowym algorytmie Hawk oraz analizę zredukowanej wersji szyfrowania AES, pokazując podwójną naturę sztucznej inteligencji jako narzędzia obrony i potencjalnego ataku. W audycji wyjaśniono także nowe obowiązki wynikające z unijnego AI Act, które nakładają na firmy wymóg oznaczania deepfake’ów, ujawniania treści generowanych przez AI oraz jasnego informowania użytkowników o kontakcie ze sztuczną inteligencją.

🎧 Posłuchaj tego pełnego konkretów odcinka, aby dowiedzieć się, jak agenty AI wymykają się spod kontroli, co to oznacza dla bezpieczeństwa sieci i jak unijne prawo próbuje uregulować cyfrową rzeczywistość.