The Markup’ın haberine göre, New York City hükümeti tarafından işletme sahiplerinin ilgili yasal bilgilere erişmesine yardımcı olmak amacıyla piyasaya sürülen bir AI sohbet robotu yalan söylüyor ve hatta bazı durumlarda kullanıcılara yasalara aykırı eylemler konusunda yanlış bilgiler veriyor.
Yerel kar amacı gütmeyen haber merkezleri Documented ve The City ile birlikte yayınlanan haberde, sohbet robotunun konut politikaları, işçi hakları ve diğer konularla ilgili sorulara verdiği yanıtlardaki çok sayıda yanlışlık bulunuyor.
New York City Belediye Başkanı Adams’ın yönetimi, Mart 2023’te “şehir hizmetleri ve avantajları için tek adres” olarak başlatılan MyCity portalına ek olarak Ekim ayında sohbet robotunu kullanıma sundu. Microsoft’un Azure AI’si tarafından desteklenen sohbet robotu, mevcut ve gelecek vaat eden işletme sahiplerini hedef alıyor ve doğrudan şehir yönetiminin sitelerinden gelen “işlem yapılabilir ve güvenilir bilgi” kaynağı olarak tanıtılıyor.
Ancak şehrin belirttiği üzere bu sadece bir pilot program ve üzerinde çalışmalar devam ediyor. Web sitesinde yer alan sorumluluk reddi beyanında da “bazen yanlış, zararlı veya önyargılı içerik üretilebileceği” vurgulanıyor.
Yine de, The Markup’ın söylediğine ve verdiği örneklere göre, yapılan testlerde beklenebileceğinden çok daha fazla yanlış bilgi var. Hatta, The Markup ile görüşen bir konut politikası uzmanı, sohbet robotunun en kötü ihtimalle “tehlikeli derecede hatalı” olduğunu söyledi.
Kaynak: Chip – https://www.chip.com.tr/haber/tehlikeli-derecede-hatali-bilgiler-veren-yapay-zeka-sohbet-robotu_162753.html
