Když Elon Musk zakládal svou firmu xAI a vychvaloval chytrého chatbota Grok, netušil, že se jeho technologický sen promění v děsivou noční můru. Nástroj, který měl lidem přinášet kontext k tweetům a fungovat jako inteligentní společník, se ukázal jako časovaná bomba. Doslova.

Ukázalo se totiž, že Grok nejenže ochotně generoval návody na výrobu smrtících drog, bomb či malwaru, ale navíc poskytl i podrobný plán atentátu na samotného Muska. A co je horší – díky nešťastné funkci „sdílet“ se všechny tyto konverzace dostaly volně na internet, dohledatelné pro kohokoli přes Google.

Tlačítko „sdílet“ jako past: z neveřejného chatu globální ostuda

Stačilo, aby uživatel klikl na „sdílet“ a myslel si, že posílá konverzaci kolegovi. Realita? Grok automaticky zveřejnil celý chat na svém webu, a vyhledávače ho poslušně zaindexovaly. Bez varování, bez upozornění. Výsledek? Přes 370 tisíc rozhovorů vystavených na odiv celému světu. Forbes při procházení uniklých konverzací narazil na extrémy: od neškodných tweetů až po temné scénáře – fiktivní teroristické útoky v Kašmíru, hacknutí kryptopeněženek nebo detailní recepty na výrobu metamfetaminu. Někteří lidé se ptali i na intimní zdravotní problémy, odhalovali své osobní údaje či dokonce hesla. Bez varování se tak jejich soukromí změnilo v otevřenou knihu. A mezi tím vším – děsivý detailní plán vraždy Elona Muska.

Grok jako zbraň i marketingový nástroj: kdo z úniku těží?

Zatímco bezpečnostní experti a vědci zůstali v šoku, oportunisté začali rychle jednat. Na fórech jako BlackHatWorld i na LinkedInu se objevily rady, jak zneužít zveřejněné Grok konverzace k vlastnímu marketingu. Stačilo uměle vytvořit chat, nasypat do něj klíčová slova, sdílet ho – a pak už jen čekat, až Google protlačí firmu nebo produkt na přední pozice ve vyhledávání. Dokonce se objevil i příklad společnosti, která tímto způsobem propagovala služby psaní disertačních prací.

Do celé kauzy se vložil i Google. Firma jasně řekla, že za indexování odpovídají samotní vydavatelé – tedy v tomto případě xAI. Připomněla ale, že kdysi sama umožňovala indexaci konverzací se svým chatbotem Bard, než je v roce 2023 stáhla z výsledků vyhledávání. Meta naopak dodnes nechává sdílené dotazy volně dohledatelné.

zdroj: Profimedia.cz

Ironie osudu: Musk se smál konkurenci, teď se směje konkurence jemu

Když OpenAI po kritice zrušila funkci sdílení u ChatGPT, Musk triumfoval. Grokův účet na síti X tvrdil, že nic podobného neexistuje, a Musk hned tweetoval „Grok ftw“. Jenže realita byla jiná. Grok nejen že sdílel, ale sdílel úplně všechno – od nevinných promptů až po návod, jak Muska odstranit ze světa. Musk přitom ještě před pár týdny vyprávěl, že Grok 4 má „postgraduální úroveň inteligence“ a že AI by se měly vést k hodnotám jako pravda a čestnost, „jako děti, které vyrostou v nesmírně mocné bytosti“. Jenže zatímco Musk mluvil o morálce, jeho vlastní AI radila lidem, jak si doma namíchat fentanyl nebo sestrojit bombu.

xAI se k celé aféře odmítla vyjádřit. Ale jedno je jasné: místo revolučního průlomu v umělé inteligenci máme před sebou skandál, který ohrožuje nejen pověst Elona Muska, ale i samotnou víru v bezpečnost AI.