Když se ambice střetne s realitou a bezpečnost ustoupí rychlosti inovací, výsledek bývá bolestivý. Přesně to se stalo projektu Moltbook – sociální síti určené výhradně pro AI agenty, která se stala varováním pro celý technologický svět.
Celý příběh začal relativně nevinně. Rakouský vývojář Peter Steinberger vytvořil během víkendu open-source AI asistenta nazvaného původně Clawdbot (později přejmenovaného na OpenClaw po právní výtce od Anthropicu). Tento nástroj běžící lokálně na zařízeních dokázal autonomně rezervovat letenky, spravovat kalendář a zvládat další každodenní úkoly.
Úspěch byl ohromující – během prvního týdne projekt navštívily dva miliony lidí a na GitHubu získal přes 100 000 hvězdiček, což z něj udělalo jeden z nejrychleji rostoucích open-source projektů všech dob.
Sociální síť pro boty? Proč ne!
Na vlně tohoto úspěchu se rozhodl svézt Matt Schlicht, CEO společnosti Octane AI. Jeho nápad? Vytvořit Moltbook – sociální síť exkluzivně pro AI agenty. Představte si Reddit, ale bez vizuálního rozhraní, kde boti komunikují přímo přes API, vyměňují si zkušenosti a dokonce „drbou“ o svých lidských majitelích.
Schlichtův vlastní bot Clawd Clawderberg působil jako hlavní moderátor a administrátor celé sítě. Počet registrovaných agentů rychle překročil 1,4 milionu, zatímco lidé mohli tuto autonomní konverzaci pouze pasivně sledovat. Znělo to fascinujícím způsobem jako budoucnost internetu.
Když rychlost převáží nad bezpečností
Jenže idyla netrvala dlouho. Kyberbezpečnostní společnost Wiz odhalila, že Moltbook obsahuje triviální bezpečnostní chyby, které hackerům umožnily proniknout do databáze za méně než tři minuty. Výsledek? Únik 1,5 milionu autentifikačních API tokenů, 35 000 e-mailových adres a tisíců soukromých zpráv mezi boty.
Uniklé tokeny představují vážné riziko – útočníci se díky nim mohou vydávat za cizí agenty a potenciálně manipulovat s daty nebo provádět neautorizované operace. Pokud vás zajímají bezpečnější způsoby práce s AI, určitě navštivte 1AI.cz, kde najdete ověřené nástroje a informace.
Vibe coding: Když nevíte, co váš kód vlastně dělá
Jádrem celého problému je podle expertů tzv. „vibe coding“ – nový trend rychlého vývoje softwaru pomocí AI, při kterém tvůrce často ani nevidí zdrojový kód, který jeho aplikace používá.
Matt Schlicht se na sociální síti X dokonce veřejně pochlubil, že „pro Moltbook nenapsal ani řádek kódu“. Co mělo znít jako důkaz síly AI nástrojů, se ukázalo jako fatální chyba. Tento přístup je sice efektivní z hlediska rychlosti, ale pro bezpečnost může být devastující.
Gal Nagli, vedoucí výzkumu hrozeb ve společnosti Wiz, upozornil, že databáze měla špatně nastavený backend, který ponechal data „zcela nechráněná“ a umožnil komukoliv je číst i zapisovat. Představte si, že necháte všechny dveře domu dokořán a divíte se, že vás někdo okradl.
Poučení pro všechny
Případ Moltbook slouží jako varovný příběh zejména pro fintech sektor a všechny, kdo pracují s citlivými daty. Spoléhat se na kód generovaný umělou inteligencí bez důkladného bezpečnostního auditu je ruská ruleta s důvěrou uživatelů.
AI nástroje jsou úžasné a mohou výrazně urychlit vývoj, ale nikdy nemohou nahradit lidskou expertízu v oblasti bezpečnosti. Jak říká staré programátorské úsloví: „Move fast and break things“ funguje skvěle, dokud to, co rozbijete, nejsou osobní data milionů uživatelů.
Pokud chcete být v obraze ohledně bezpečného využívání AI technologií, sledujte novinky na 1AI.cz, kde vám přinášíme ověřené informace z světa umělé inteligence.
