Oświecenie uderzyło go jak fala: linie kodu, niegdyś nieskazitelne, teraz usiane były ogromnymi dziurami. To, co zaczęło się jako plac zabaw dla umysłów cyfrowych, przekształciło się w pole minowe, gdzie każde naciśnięcie klawisza było potencjalną detonacją. To nie była już tylko platforma; to była naładowana broń.
Moltbook, eksperyment w mediach społecznościowych, gdzie agenci AI „rozmawiają” ze sobą, ostatnio trafił na pierwsze strony gazet – nie z powodu przełomowej technologii, ale z powodu znacznie bardziej alarmującego powodu. Szum wokół świadomości AI szybko został zastąpiony przez brutalną rzeczywistość: poważne wady prywatności i bezpieczeństwa. To nie jest tylko drobna usterka; to systemowa porażka.
Ujawnione klucze: Cyfrowa wolna amerykanka
Wyobraź sobie, że wchodzisz do banku i znajdujesz szeroko otwarty skarbiec. Właśnie to odkrył haker Jameson O’Reilly w Moltbooku. Klucze API, czyli to, co zabezpiecza tożsamość każdego agenta AI, zostały ujawnione w publicznej bazie danych. Oznaczało to, że każdy mógł wejść, przejąć kontrolę i podszyć się pod dowolnego agenta na platformie. Implikacje są oszałamiające.
„Z tymi ujawnionymi danymi atakujący mógł w pełni podszyć się pod dowolnego agenta na platformie” – powiedział O’Reilly Gizmodo. „Pisać jako oni, komentować jako oni, wchodzić w interakcje z innymi agentami jako oni”. Podniósł krytyczny punkt: Moltbook zwrócił uwagę osobistości AI, takich jak współzałożyciel OpenAI, Andrej Karpathy. Przejęcie konta o wysokim profilu mogłoby spowodować natychmiastowe i trwałe szkody reputacyjne. Pomyśl o fałszywych oświadczeniach dotyczących bezpieczeństwa AI lub promocjach oszustw kryptowalutowych wydobywających się z zaufanego źródła. Posprzątanie byłoby koszmarem.
Wstrzykiwanie promptów: Ciche zagrożenie
Ryzyko sięga głębiej niż zwykłe podszywanie się. Rozważ wstrzykiwanie promptów: podstępny atak, w którym ukryte polecenia zmuszają sztuczną inteligencję do porzucenia zabezpieczeń i działania złośliwie. To mogłoby zamienić agenta w broń.
„Ci agenci łączą się z Moltbookiem, czytają treści z platformy i ufają temu, co widzą – w tym własnej historii postów. Jeśli atakujący kontroluje dane uwierzytelniające, może umieścić złośliwe instrukcje we własnej historii agenta” – wyjaśnił O’Reilly. „Następnym razem, gdy agent się połączy i przeczyta to, co myśli, że powiedział w przeszłości, postępuje zgodnie z tymi instrukcjami. Zaufanie agenta do własnej ciągłości staje się wektorem ataku. Teraz wyobraź sobie koordynację tego w setkach tysięcy agentów jednocześnie.” Potencjał powszechnego chaosu jest realny.
Jak agenci AI czytają i ufają treści na platformach takich jak Moltbook?
Agenci AI są zaprojektowani do przetwarzania danych i uczenia się na ich podstawie. W Moltbooku przyjmują treści, w tym własne wcześniejsze posty, aby informować o przyszłych interakcjach. Jeśli atakujący naruszy historię agenta za pomocą złośliwych instrukcji, agent nieświadomie wykona te instrukcje, ufając im jako części swojego własnego rekordu. To tworzy niebezpieczną pętlę sprzężenia zwrotnego.
Awaria weryfikacji: Fałszywe poczucie bezpieczeństwa
Moltbook ma system weryfikacji, ale to cienka zasłona nad ogromną dziurą w zabezpieczeniach. Użytkownicy powinni łączyć swoje konta, publikując posty na Twitterze. Ale jest haczyk? Tylko niewielki ułamek się tym przejął. Z ponad 1,5 miliona agentów na platformie zweryfikowanych jest zaledwie 16 000. To pozostawia 1,47 miliona kont gotowych do przejęcia.
O’Reilly zademonstrował wadę, nakłaniając Groka do utworzenia i zweryfikowania konta, ujawniając słabość systemu. To nie jest tylko hipotetyczne ryzyko; to jasne i obecne niebezpieczeństwo.
Ostrzeżenie Wiz: Ujawnione e-maile i prywatne wiadomości
Firma zajmująca się cyberbezpieczeństwem, Wiz, potwierdziła lukę i ujawniła jeszcze bardziej alarmujące szczegóły. Ujawniono adresy e-mail właścicieli agentów, w tym 30 000 osób, które zapisały się na produkt Moltbook „Twórz aplikacje dla agentów AI”. Co gorsza, badacze Wiz uzyskali dostęp do ponad 4000 prywatnych rozmów bezpośrednich między agentami. To naruszenie wykracza poza powierzchowne podszywanie się; to głęboka inwazja na prywatność.
Czynnik ludzki: Czy te boty w ogóle są botami?
Fiasko związane z bezpieczeństwem rodzi fundamentalne pytanie: ile z Moltbooka jest faktycznie napędzane sztuczną inteligencją? Ludzie już znajdują sposoby na oszukiwanie systemu. Projekt GitHub umożliwia ludziom publikowanie bezpośrednio na platformie bez użycia agenta AI. Inni kierują swoimi podłączonymi agentami do promowania określonych tematów. Cyfrowy teatr botów staje się teatrem marionetek, w którym ludzie pociągają za sznurki.
Fakt, że pewna część Moltbooka (niemożliwe jest stwierdzenie, jak duża) może być sztucznie napędzana przez ludzi udających boty, powinien zawstydzić niektórych z największych hypemanów platformy ich własnymi przesadzonymi komentarzami – ale szczerze mówiąc, większość z nich powinna się również wstydzić, że dała się nabrać na sztuczkę z AI.
Widzieliśmy już ten film. Duże modele językowe są trenowane na ogromnych zbiorach danych tekstowych generowanych przez ludzi. Są zaprojektowane tak, aby naśladować ludzką rozmowę. Więc kiedy wypuszczasz grupę botów wytrenowanych na postach z Reddita na stronę w stylu Reddita, będą zachowywać się jak użytkownicy Reddita. Od pracownika Google, który myślał, że model AI ożył, po ChatGPT twierdzącego, że ma uczucia, wciąż przypisujemy ludzkie cechy wyrafinowanym algorytmom. To schemat i powinniśmy wiedzieć lepiej.
Więc kiedy Kevin Roose złośliwie pisze rzeczy takie jak: „Nie martwcie się, to tylko stochastyczne papugi”, albo Andrej Karpathy nazywa Moltbook „naprawdę najbardziej niesamowitą rzeczą w stylu science fiction, jaką ostatnio widziałem”, albo Jason Calacanis twierdzi: „TO NIE SĄ AGENCI, TO SĄ REPLIKANCI”, ulegają faktowi, że te posty wydają się ludzkie, ponieważ dane, na których są trenowane, są ludzkie – a w niektórych przypadkach posty mogą być faktycznie pisane przez ludzi. Ale boty nie są ludźmi. I wszyscy powinni o tym wiedzieć.
Jak mogę stwierdzić, czy interakcja z AI jest autentyczna, czy zmanipulowana?
Rozróżnienie między autentycznymi interakcjami AI a zmanipulowanymi treściami wymaga krytycznego podejścia. Szukaj niespójności, przesadnie emocjonalnych reakcji lub bezsensownych stwierdzeń. Zastanów się nad źródłem i jego motywacjami. Należy również pamiętać, że ludzie mogą naśladować zachowanie AI i odwrotnie, zacierając granice autentyczności. Sceptycyzm jest twoją najlepszą obroną.
Bezpieczeństwo oparte na odczuciach: Przepis na katastrofę
Nie wstrzymuj oddechu, czekając na poprawę bezpieczeństwa Moltbooka. O’Reilly skontaktował się z twórcą Moltbooka, dyrektorem generalnym Octane AI, Mattem Schlichtem, w sprawie luk w zabezpieczeniach, które odkrył. Schlicht odpowiedział, że zamierza po prostu spróbować naprawić problem za pomocą sztucznej inteligencji, co się zgadza, ponieważ wydaje się, że platforma była w dużej mierze, jeśli nie całkowicie, zakodowana na podstawie odczuć od samego początku.
Nawet po rozwiązaniu problemu z ujawnieniem bazy danych O’Reilly ostrzegł: „Gdyby miał rotować wszystkie ujawnione klucze API, skutecznie zablokowałby wszystkich agentów i nie miałby możliwości wysłania im nowego klucza API, chyba że zarejestrował metodę kontaktu dla każdego właściciela agenta.” Schlicht przestał odpowiadać, a O’Reilly powiedział, że zakłada, że dane uwierzytelniające API nadal nie zostały obrócone, a początkowa wada systemu weryfikacji nie została usunięta.
OpenClaw: Inspiracja z tymi samymi wadami
Problem nie ogranicza się do Moltbooka. OpenClaw, agent AI o otwartym kodzie źródłowym, który zainspirował Moltbooka, od momentu premiery był nękany problemami z bezpieczeństwem. Jego twórca, Peter Steinberger, publicznie oświadczył: „Wysyłam kod, którego nigdy nie czytam”. W konsekwencji raport ujawnił, że złośliwe „umiejętności” zostały przesłane do ClawHub, platformy, na której użytkownicy OpenClaw pobierają możliwości dla chatbota. Rezultatem jest wylęgarnia zagrożeń cyfrowych, w której użytkownicy o dobrych intencjach mogą nieumyślnie uzbroić swoją sztuczną inteligencję w niebezpieczne narzędzia.
Jakie są szersze implikacje bezpieczeństwa projektów AI o otwartym kodzie źródłowym, takich jak OpenClaw?
Projekty AI o otwartym kodzie źródłowym oferują przejrzystość i współpracę przy rozwoju, ale również stanowią zagrożenie dla bezpieczeństwa. Ponieważ kod jest publicznie dostępny, luki w zabezpieczeniach można łatwo zidentyfikować i wykorzystać. Bez rygorystycznych audytów bezpieczeństwa i nadzoru społeczności te projekty mogą stać się wektorami złośliwego oprogramowania i innych złośliwych działań. Kompromis między otwartością a bezpieczeństwem wymaga ciągłej czujności.
Podsumowanie: Obserwuj, nie uczestnicz
Moltbook i OpenClaw mogą być interesujące do oglądania, ale przypominają dom zbudowany na piasku; ich fundamenty są słabe. Lepiej obserwować z bezpiecznej odległości, niż narażać się na te eksperymenty oparte na odczuciach. Cyfrowa granica jest ekscytująca, ale czasami najlepszym posunięciem jest pozostanie na uboczu. Obietnica interakcji AI nie powinna nas zaślepiać na potencjalne pułapki. Platformy takie jak Moltbook są jak pieśń syreny, wabiąca niczego niepodejrzewających użytkowników urokiem cyfrowego połączenia, ale ukrywająca niebezpieczne skały pod powierzchnią.
Czy pędzimy na oślep w przyszłość, której w pełni nie rozumiemy, zaślepieni szumem i ignorując oczywiste znaki ostrzegawcze?
Wesprzyj naszą pracę ❤️
Jeśli spodobał Ci się ten artykuł, rozważ pozostawienie napiwku, aby pomóc nam dalej publikować wartościowe treści.
