ChatGPT’nin arkasındaki firma olan OpenAI, üretken yapay zeka temelli metinden görüntüye aracı DALL-E için yeni bir güvenlik ve güvenilirlik adımı atıyor. Yapılan açıklamaya göre OpenAI, yapay zeka tarafından üretilen görsellerde Content Provenance and Authenticity (C2PA) standartlarını temel alan filigranları kullanmaya başlayacak.
DALL-E 3’e filigranlar eklendi
Şirket, C2PA filigranlarının ChatGPT web sitesinde ve DALL-E 3 modeli için API’de oluşturulan görüntülerde görüneceğini söylüyor. Mobil kullanıcılar için ise tarih 12 Şubat. Bu filigranlar hem görünmez bir metadata bileşeni hem de her görüntünün sol üst köşesinde görünecek olan görünür bir “CR” sembolü taşıyacak. Bu filigranlar sayesinde kullanıcılar Content Credentials Verify gibi web siteleri aracılığıyla OpenAI platformları tarafından üretilen herhangi bir görüntünün kaynağını (içeriği oluşturmak için hangi AI aracının kullanıldığını) kontrol edebilirler. OpenAI ayrıca metadata düzeyindeki filigranın görüntü kalitesi üzerinde bir etkisi olmayacağını ancak görüntü boyutlarında biraz artış yaşanabileceğini söylüyor.
Adobe ve Microsoft gibi şirketlerden oluşan bir grup olan C2PA, içeriğin kaynağını belirlemek ve insanlar tarafından mı yoksa yapay zeka ile mi yapıldığını göstermek için Content Credentials filigran kullanımını öneriyor. OpenAI gibi başka firmalar da bu filigranları kullanmaya başlayacak. Örneğin Meta, kısa süre önce sosyal medya platformlarında yapay zeka tarafından oluşturulan içeriğe etiketler ekleyeceğini duyurmuştu.
Öte yandan hem görsel hem de metadata filigranları kesin bir çözüm değil. Her ikisi de kolaylıkla görsellerden kaldırılabiliyor. Öyle ki sadece bir ekran görüntüsü almak bile metadata filigranından kurtulmayı sağlayabiliyor. Çoğu sosyal medya platformu ise yüklenen içerikten metadata’yı genellikle siliyor.
Kaynak: Donanimhaber – https://www.donanimhaber.com/openai-guvenlik-icin-dall-e-3-e-yeni-filigranlar-ekliyor–173903
