OpenAI hodlá spustit nástroj, který bude detekovat obsah generovaný ChatGPT

OpenAI, společnost odpovědná za vytvoření ChatGPT, odkládá spuštění nového nástroje, který je označen jako „vysoce přesný“. Zjevně má schopnost identifikovat obsah generovaný samotným ChatGPT. Váhání je způsobeno obavami, že by nástroj mohl být zmanipulován nebo odradit neanglicky mluvící uživatele od používání modelů umělé inteligence (AI) pro generování textu.

V květnovém příspěvku na blogu společnost odhalila, že vyvíjí několik technik k identifikaci obsahu specificky generovaného jejími produkty. Exkluzivní zpráva Wall Street Journal (WSJ), zveřejněná 4. srpna, však naznačila, že plány na spuštění těchto nástrojů byly odloženy po interních debatách o možných důsledcích zpřístupnění takové technologie.

OpenAI se obává, že jeho nástroj využijí záškodníci

Po zprávě WSJ aktualizovala OpenAI příspěvek na blogu z května a přidala další informace o svých detekčních nástrojích. Společnost prozradila, že zatím nestanovila datum spuštění těchto nástrojů, i když zdůraznila, že jeden z nich, určený k identifikaci původu textů, se ukazuje jako „vysoce přesný a účinný i v případech specifické manipulace“.

OpenAI si však uvědomuje, že stále existují techniky, které by mohly být zneužity jednotlivci se zlými úmysly. Z tohoto důvodu se společnost rozhodla tuto technologii prozatím nezpřístupnit veřejnosti. Navíc uvedla obavu, že neanglicky mluvící mohou být „stigmatizováni“ při používání produktů AI pro tvorbu textu.

Detekční nástroj OpenAI by byl první vyvinutý interně

V současné době existuje několik produktů a služeb, které tvrdí, že detekují obsah generovaný umělou inteligencí. Dosud však žádný z nich neprokázal vysokou přesnost v obecných úkolech podle recenzovaných studií. Nástroj OpenAI by byl průkopníkem jako první interně vyvinutý systém, který používá neviditelné značkování a proprietární metody detekce speciálně pro obsah vytvořený vlastními modely společnosti.

• Jak ovlivní umělá inteligence chod lidstva v příštích 100 letech

• About
• Latest Posts

Roman

Mám zkušenosti s psaním článku 6 let na několika předních webech zabývajících se kryptoměnami a dalšími investicemi. V sektoru Web3 se pohybuji podobnou dobu a spolupracoval jsem na několika projektech od NFT po P2E.

Latest posts by Roman (see all)

• Co je Polkadot, cenové predikce 2025 – 2030 a proč investovat do DOT - 15 listopadu, 2024
• Top 10 Ethereum DEX podle objemu obchodů - 14 listopadu, 2024
• Co je Moonshot: Jak vytvořit svůj vlastní Solana meme coin s auditovaným smart kontraktem? - 13 listopadu, 2024