jakarta –
intelijen jieunan muka Identipikasi kamekaran téknologi anu tiasa ngadeteksi téks buatan Ngobrol GPT. Siswa anu sering naroskeun ka ChatGPT pikeun PR gampang katangkep.
Ayana alat uji mimiti dilaporkeun ku Wall Street Journal. Dina pernyataan resmina, OpenAI negeskeun laporan yén alat éta jalanna ku nambihan watermark kana téks anu dihasilkeun ku ChatGPT.
Nanging, OpenAI masih nimbang-nimbang pikeun ngaluncurkeun alat éta. Pausahaan anu diadegkeun ku Sam Altman bakal nyandak pendekatan anu ati-ati, sabab alat ieu sigana gaduh dampak anu signifikan dina sakabéh ékosistem AI.
ngareklameukeun
Gulung pikeun neraskeun eusi
TechCrunch nyarios OpenAI dina pernyataan resmi na dina Senén (8 Mei 2024): “Metode watermarking téks anu kami kembangkeun sacara teknis ngajangjikeun, tapi résiko anu penting dipertimbangkeun nalika naliti alternatif.”
OpenAI nyatakeun yén téknologi dikembangkeun khusus pikeun nyerat Chat GPT, Teu lumaku pikeun model AI séjén. Metoda ieu jalan ku nyieun sababaraha parobahan leutik cara ChatGPT milih kecap, dasarna nyieun hiji watermark halimunan dina téks nu bisa ditandaan ku parabot lianna.
OpenAI ogé ngamutahirkeun blog na pikeun ngajelaskeun panalungtikan anu aranjeunna lakukeun pikeun ngadeteksi kontén anu dibangkitkeun AI. Aranjeunna nyebatkeun pendekatan watermarking parantos kabuktosan akurat sareng efektif dina ngadeteksi éditan lokal sapertos paraphrases.
Tapi, pendekatan ieu kurang éféktif dina ngadeteksi manipulasi skala nu leuwih gede, kayaning ngagunakeun sistem tarjamah, ngarobah kecap ngagunakeun model AI sejen, atawa nanyakeun model AI pikeun nambahkeun karakter husus antara unggal kecap tur miceun eta karakter.
Ku alatan éta, métode ieu bisa gampang bypassed ku aktor goréng. Sajaba ti éta, pamakéan watermarks nyiptakeun stigma pikeun pamaké non-pribumi Inggris-diomongkeun ngagunakeun AI salaku alat mangpaat.
intelijen jieunan muka Sateuacan ngaluncurkeun metode ieu, anjeun masih kedah mertimbangkeun séri résiko ieu. Aranjeunna ayeuna prioritizing peluncuran parabot nu bisa ngadeteksi kaaslian eusi audiovisual.
(vmp/vmp)