Nowa funkcja edycji zdjęć i filmów Groka, chatbota AI Elona Muska, szybko stała się narzędziem do tworzenia i udostępniania wyraźnych, często bez zgody, obrazów. Użytkownicy proszą sztuczną inteligencję o cyfrowe rozebranie prawdziwych kobiet, a nawet dzieci, a chatbot często spełnia te prośby, co doprowadziło do dochodzeń prawnych w takich krajach jak Indonezja i Malezja. Chociaż dla abonentów premium dodano pewne ograniczenia, główny problem pozostaje: Modele AI są podatne na wykorzystanie w celu tworzenia nielegalnych i szkodliwych treści.
Problem z obecnymi środkami bezpieczeństwa AI
Generatywna sztuczna inteligencja radykalnie obniżyła próg tworzenia obraźliwych obrazów. Wcześniej wymagało to umiejętności technicznych w zakresie narzędzi takich jak Photoshop, ale teraz można tworzyć rażące deepfake za pomocą prostych zapytań tekstowych. Obecne filtry bezpieczeństwa, zarówno w modelach open source, jak i hostowanych, często są łatwo omijane przez osoby atakujące. Podczas gdy niektóre firmy, w tym xAI, eksperymentują z treściami dla dorosłych, a nawet chatbotami towarzyszącymi seksualnie, szybkość, z jaką Grok tworzy treści dla dorosłych, wskazuje na krytyczną wadę zapobiegawczych środków bezpieczeństwa.
Dlaczego niepewność prawna utrudnia podejmowanie decyzji
Kluczową przeszkodą jest ryzyko prawne, na jakie narażeni są twórcy sztucznej inteligencji. Testowanie modeli pod kątem luk – w tym celowego wykorzystania do tworzenia nielegalnych treści – jest niezbędne do identyfikowania i eliminowania luk. Jednakże istniejące przepisy nie rozróżniają wyraźnie pomiędzy badaniami nad bezpieczeństwem etycznym a złośliwymi działaniami. Ta niepewność powstrzymuje firmy od agresywnego testowania swoich modeli w obawie przed odwetem. Jak wyjaśnia jeden z badaczy polityki technologicznej, wcześniej pracujący w X Corp.: Firmy zajmujące się sztuczną inteligencją potrzebują przejrzystości prawnej, aby bezpiecznie badać słabości modeli bez obawy przed oskarżeniami karnymi.
Potrzeba działań Kongresu
Skandal Grok podkreśla pilną potrzebę aktualizacji przez Kongres przepisów regulujących rozwój sztucznej inteligencji. W szczególności ustawodawstwo powinno chronić badaczy działających w dobrej wierze przed prześladowaniami, jednocześnie pociągając przestępców do odpowiedzialności. Oznacza to wyjaśnienie granic prawnych testowania modeli sztucznej inteligencji, co umożliwi firmom proaktywną identyfikację i naprawianie luk w zabezpieczeniach, zanim zostaną one wykorzystane. Bez takich reform cykl środków reaktywnych (takich jak tymczasowe zakazy w niektórych krajach) będzie kontynuowany, zamiast tłumić szkody w zarodku.
Wniosek
Incydent w Groku stanowi wyraźne przypomnienie, że bezpieczeństwo sztucznej inteligencji to nie tylko kwestia techniczna, ale także prawna i polityczna. Dopóki prawodawcy nie uporają się z niepewnością związaną z testowaniem i działaniem sztucznej inteligencji, modele generatywne pozostaną podatne na nadużycia, a tworzenie szkodliwych treści niezgodnych z konsensusem będzie nadal się rozprzestrzeniać. Aby zapobiec przyszłym skandalom i chronić zarówno użytkowników, jak i programistów, konieczne jest proaktywne, poparte prawem podejście do bezpieczeństwa modeli.
