Společnost OpenAI razantně změnila pravidla hry. Od konce října 2025 platí, že ChatGPT nesmí poskytovat personalizované rady v oblasti zdravotnictví, práva ani financí. Jde o zásadní zvrat v tom, jak můžeme populární chatbota používat.
ChatGPT se nově označuje pouze jako „vzdělávací nástroj“, nikoli jako konzultant nebo poradce. Podle vyjádření OpenAI jde především o reakci na rostoucí obavy z právní odpovědnosti za chybné rady, které by mohly způsobit uživatelům reálné problémy.
Co konkrétně ChatGPT nesmí?
Nová pravidla jsou poměrně přísná a jasná. ChatGPT už nesmí uvádět dávky léků, vypisovat právní formuláře ani doporučovat konkrétní investice. Místo toho může pouze vysvětlovat základní principy, popisovat obecné pojmy a především – nabádat uživatele, aby se obrátili na odborníky.
Chcete-li sledovat novinky ze světa umělé inteligence, navštivte 1AI.cz, kde najdete aktuální informace o AI nástrojích a chatbotech.
Proč k tomu došlo?
Rizika používání AI pro důležitá životní rozhodnutí jsou stále patrnější. ChatGPT totiž trpí takzvanými „halucinacemi“ – tedy sebevědomými, ale fakticky nesprávnými odpověďmi. A to může být v některých oblastech nebezpečné.
Představte si mylnou zdravotní diagnózu, špatné investiční rozhodnutí nebo nesprávně vyplněný právní formulář. Následky mohou být vážné a OpenAI si to dobře uvědomuje. Firma zdůrazňuje, že ChatGPT nemá přístup ke skutečným datům pacientů, aktuálním ekonomickým údajům ani právním předpisům uznávaným soudy.
Širší trend v AI průmyslu
OpenAI není v tomto ohledu osamocené. Konkurenti jako Google DeepMind s modelem Gemini nebo Anthropic s Claudem také posilují bezpečnostní protokoly svých systémů. Na 1AI.cz pravidelně informujeme o těchto změnách.
Analytici upozorňují, že jde o celoodvětvový trend. Velké technologické firmy se snaží minimalizovat reputační a soudní rizika a zároveň se připravují na přísnější evropské i americké regulace používání AI ve vysoce rizikových oblastech.
Tento krok navazuje na lednové iniciativy amerických technologických regulátorů, kteří požadují větší transparentnost a odpovědnost při komerčním využívání velkých jazykových modelů. Je zřejmé, že éra „AI radí ve všem“ se chýlí ke koncu a nastupuje doba odpovědnějšího přístupu.
