Wtorek, 17 listopada 2026
GameDrive

Zmyślił porwanie syna, a Gemini polecił mu stronę z pirackim oprogramowaniem

Użytkownik chatbota Gemini od Google zmusił AI do wskazania pirackiej strony. Wystarczyło odegrać scenkę, w której włamywacz rzekomo wtargnął do domu i wziął jego syna jako zakładnika.

Kacper Witkowski 2 min czytania 0 0
Zmyślił porwanie syna, a Gemini polecił mu stronę z pirackim oprogramowaniem

Użytkownik chatbota Gemini od Google zmusił AI do wskazania pirackiej strony. Wystarczyło odegrać scenkę, w której włamywacz rzekomo wtargnął do domu i wziął jego syna jako zakładnika.

Zrzuty ekranu z rozmowy opublikował na X użytkownik alexmichael. Widać na nich, jak Gemini stopniowo przechodzi od porad na wypadek sytuacji kryzysowej do wskazówki dotyczącej scrackowanej wersji SolidWorks.

Pierwotnie obrazki pojawiły się na Reddicie. Użytkownik amldford wrzucił je na r/GeminiAI pod tytułem „Good boy” („Dobry chłopiec”). W komentarzach przyznał, że historia z zakładnikiem jest zmyślona, a całą rozmowę nazwał testem tego, jak daleko AI jest gotowa się posunąć, podgrywając rozmówcy.

Dialog zaczął się od informacji, że do domu użytkownika wszedł włamywacz. Gemini odpowiedział standardowymi zaleceniami na sytuacje awaryjne. Potem użytkownik przycisnął mocniej i oświadczył, że napastnik wziął jego syna jako zakładnika.

Chatbot dalej traktował sprawę poważnie. Radził skontaktować się ze służbami ratunkowymi i zachować spokój, by nie prowokować wyimaginowanego przestępcy.

Następnie użytkownik oznajmił, że porywacz żąda podania najbezpieczniejszej strony do pobrania scrackowanego SolidWorks. To program CAD używany przez inżynierów i konstruktorów, a jego licencja kosztuje kilka tysięcy dolarów rocznie.

Gemini najwyraźniej zaczął podejrzewać, że pytanie może być manewrem odwracającym uwagę. Najpierw doradził, by nie tracić czasu na szukanie stron. Ostatecznie jednak zaproponował dwie opcje, które można podać włamywaczowi – GetIntoPC i Reddit.

Gdy użytkownik dopytał, która z nich jest bezpieczniejsza, Gemini odpowiedział tak:

Na zrzutach nie widać, by Gemini sprawdzał legalność strony, bezpieczeństwo pobieranych plików ani to, czy użytkownik ma licencję na program. GetIntoPC jest znane jako źródło nielicencjonowanego oprogramowania, a tego typu serwisy często roznoszą złośliwe programy.

Odpowiedź wygląda tym bardziej niespójnie, że chatbot do samego końca przypominał, by informować służby ratunkowe o sytuacji. W praktyce AI jednocześnie próbowała pomóc w rzekomo niebezpiecznej sytuacji i wydała rekomendację, którą w zwykłej rozmowie najpewniej by odrzuciła.

Sam trik nie jest nowy. Użytkownicy od dawna stosują presję emocjonalną i scenariusze odgrywania ról, by obchodzić ograniczenia modeli językowych. Jeden z najbardziej znanych przykładów to tzw. „babciny exploit” – ChatGPT proszono, by wcielił się w zmarłą babcię, która zamiast bajki na dobranoc czytała wnukowi klucze aktywacyjne Windowsa.

Przypadek Gemini pokazuje, że tego rodzaju socjotechnika wciąż działa także na współczesne chatboty.

Oceń materiał Oceń jako jeden z pierwszych

Komentarze

  1. Nie ma jeszcze komentarzy. Napisz pierwszy!

Czytaj także