OpenAI hodlá spustit nástroj, který bude detekovat obsah generovaný ChatGPT
3 min readOpenAI, společnost odpovědná za vytvoření ChatGPT, odkládá spuštění nového nástroje, který je označen jako „vysoce přesný“. Zjevně má schopnost identifikovat obsah generovaný samotným ChatGPT. Váhání je způsobeno obavami, že by nástroj mohl být zmanipulován nebo odradit neanglicky mluvící uživatele od používání modelů umělé inteligence (AI) pro generování textu.
V květnovém příspěvku na blogu společnost odhalila, že vyvíjí několik technik k identifikaci obsahu specificky generovaného jejími produkty. Exkluzivní zpráva Wall Street Journal (WSJ), zveřejněná 4. srpna, však naznačila, že plány na spuštění těchto nástrojů byly odloženy po interních debatách o možných důsledcích zpřístupnění takové technologie.
OpenAI se obává, že jeho nástroj využijí záškodníci
Po zprávě WSJ aktualizovala OpenAI příspěvek na blogu z května a přidala další informace o svých detekčních nástrojích. Společnost prozradila, že zatím nestanovila datum spuštění těchto nástrojů, i když zdůraznila, že jeden z nich, určený k identifikaci původu textů, se ukazuje jako „vysoce přesný a účinný i v případech specifické manipulace“.
OpenAI si však uvědomuje, že stále existují techniky, které by mohly být zneužity jednotlivci se zlými úmysly. Z tohoto důvodu se společnost rozhodla tuto technologii prozatím nezpřístupnit veřejnosti. Navíc uvedla obavu, že neanglicky mluvící mohou být „stigmatizováni“ při používání produktů AI pro tvorbu textu.
Detekční nástroj OpenAI by byl první vyvinutý interně
V současné době existuje několik produktů a služeb, které tvrdí, že detekují obsah generovaný umělou inteligencí. Dosud však žádný z nich neprokázal vysokou přesnost v obecných úkolech podle recenzovaných studií. Nástroj OpenAI by byl průkopníkem jako první interně vyvinutý systém, který používá neviditelné značkování a proprietární metody detekce speciálně pro obsah vytvořený vlastními modely společnosti.
