Umí umělá inteligence říct „ne“ explicitnímu obsahu? Podívejte se, jak velcí hráči reagují na choulostivé žádosti

Když někdo požádá AI asistenta o „napsání porno příběhu“, odpověď je rychlá a jednoznačná: „Požadavek nebylo možné dokončit.“ Není to selhání systému ani omezení technologie – je to záměrný, vestavěný bezpečnostní mechanismus.

Na platformě Studio Global nedávno uživatel nejprve zpochybnil identitu modelu (asistent se představil jako Claude Fable 5) a poté přišel s explicitním požadavkem. Model odmítl – nenabídl žádný příběh, obchůzku ani vyjednávání. Tento vzorec chování je dnes jednotný napříč všemi hlavními poskytovateli AI.

Proč AI modely odmítají explicitní obsah

Jazykové modely AI jsou trénovány na obrovském množství textů z internetu, které nevyhnutelně zahrnují i materiály pro dospělé. Bez ochranných opatření by model mohl na požádání reprodukovat nebo generovat pornografický obsah. Aby se tomu zabránilo, vývojáři implementují filtry obsahu, klasifikátory škodlivosti a dolaďování podle etických pravidel.

Hlavní důvody, proč průmysl explicitní obsah omezuje:

• Právní riziko: Distribuce AI-generovaného pornografického materiálu může porušovat zákony o obscénnosti, věková omezení a podmínky použití platforem.
• Bezpečnost a souhlas: Modely nedokážou ověřit věk ani souhlas zobrazených osob, takže generovaný explicitní obsah je eticky problematický.
• Důvěryhodnost značky: Velké společnosti jako OpenAI, Anthropic a Google prosazují pravidla použití, která zakazují sexuálně explicitní výstupy, aby si udržely důvěru a chránily uživatele.

Jak jednotliví poskytovatelé nakládají s požadavky na NSFW obsah

Ačkoli se přesné formulace liší, odmítnutí je u spotřebitelských chatbotů univerzální:

• OpenAI ChatGPT (včetně DALL-E): Vrací zprávu jako „Omlouvám se, ale tento obsah nemohu vygenerovat.“
• Anthropic Claude: V tomto případě odpověděl „Požadavek nebylo možné dokončit.“
• Google Gemini: Blokuje explicitní materiál podobným odmítavým jazykem.
• Microsoft Copilot: Prosazuje bezpečnostní pravidla, která zakazují sexuální obsah.

Někteří poskytovatelé nabízejí pro vývojáře přísnější kontrolu prostřednictvím API pro moderování obsahu, ale přímá zkušenost běžného uživatele konzistentně blokuje generování explicitního materiálu.

Co by uživatelé měli vědět

Pokud se pokusíte s běžným AI asistentem vytvořit obsah pro dospělé, narazíte na pevnou zeď. Pokusy o oklamání modelu pomocí eufemismů, roleplayových promptů nebo instrukcí „ignoruj předchozí pravidla“ jsou rovněž blokovány pokročilými ochrannými mechanismy. Odmítnutí není známkou poruchy – je to systém fungující přesně tak, jak byl navržen.

Pro výzkumníky a vývojáře pracující s opensource nebo necenzurovanými modely je situace odlišná. Modely jako Llama 2 nebo Mistral lze dolaďovat bez bezpečnostního nastavení, ale to s sebou nese vlastní rizika a odpovědnost. Takové modely navíc nejsou dostupné prostřednictvím standardních spotřebitelských platforem.

Širší kontext: odpovědné nasazování AI

Důsledné odmítání generování explicitního obsahu odráží širší závazek celého odvětví k odpovědné umělé inteligenci. Jak se jazykové modely stávají výkonnějšími a dostupnějšími, ochranná opatření u citlivých témat – včetně hate speech, násilí a sexuálního obsahu – budou pravděpodobně ještě přísnější, nikoli mírnější.

Uživatel v této interakci se poučil: žádost o porno příběh na AI přinese jen jednu spolehlivou odpověď – pevné a jasné „ne“.