Anthropic, Claude tarafından üretilen metinleri tespit etmek için API’sini düzenleyicilere açtı

Anthropic’in Metin Tespiti API’si Düzenleyicilere Sunuluyor

Anthropic, Claude yapay zeka modeli tarafından üretilen metinlerde bulunan dijital filigranları tespit etmek için bir API geliştirmiş ve bunu düzenleyiciler, medya kuruluşları, araştırmacılar ve gerçeklik denetçilerine açmıştır. Bu adım, yapay zeka tarafından oluşturulan içeriğin tanımlanmasında şeffaflığı artırmayı hedeflemektedir.

AB AI Yasası’nın Filigran Gereksinimi

Avrupa Birliği tarafından yürürlüğe konan AI Yasası, AI tarafından üretilen metinlerde görünmez dijital filigran (watermark) bulunmasını zorunlu kılmaktadır. Filigranlar, metin kalitesini etkilemeden Claude tarafından oluşturulan içeriğin tanımlanmasına yardımcı olmak için tasarlanmıştır.

Teknolojiye Yönelik Eleştiriler

Ancak uzmanlar, filigran teknolojisinin bazı riskler taşıdığı konusunda uyarı vermektedir:

• Metin kalitesi endişeleri: Filigran eklemesinin metinde kalite kaybına neden olabileceği belirtilmektedir
• Şeffaflık sorunları: Kontratların AI kullanımını yasakladığı durumlarda filigran varlığı karışıklığa yol açabilir
• Normlaştırma soruları: Filigran teknolojisinin etkinliği ve yaygın kabul görmesi henüz belirlenmemiştir

Düzenleyici ve Ticari Kullanım

API’nin açılması, düzenleyici makamların AI-üretim yapılmış metinleri denetleme kapasitesini artırması beklenmektedir. Medya kuruluşları ve gerçeklik denetçileri de bu araçları kullanarak yanıltıcı AI içeriğinin yayılmasını kontrol etmeye çalışacaklardır.

Kaynak: The Decoder