OpenAI, yapay zeka çalışmalarında süper star rolünü oynamaya devam ediyor ve kısa süre sonra yeni yapay zeka modeli GPT-6’yı tanıtmak üzere çalışmalarını sürdürüyor. Ancak şirketi eleştirenler de yok değil. Özellikle eski şirket yöneticileri yapay zekanın güvensiz ve tehlikeli olduğunu iddia ediyorlar.
Yapay zekaya koşulsuz şartsız güvenmek büyük bir hata olabilir. Tesla otomobillerini yapay zekaya teslim edip direksiyonu bırakan pek çok kişi geçirdikleri kazalarda bu güvenin bedelini canlarıyla ödediler. Daha küçük örneklerde ise, ChatGPT’nin kullanıcının istediği cevapları bulmak için sahte belgeler yarattığı ve bu sahte bilgiler üzerinden cevaplar oluşturduğu ortaya çıktı.
OpenAI’den ayrılan eski yöneticilerin uyarılarında sık sık dile gelen bu konu şimdi OpenAI’nin de gündeminde. Open AI’nin kurucusu Sam Altman‘ın da dahil olduğu üst düzey yöneticiler şirket içinde Emniyet ve Güvenlik Komitesi adını verdikleri bir komite kurdular. Bu komite, yapay zekanın daha güvenilir şekilde geliştirilmesini takip edecek.
OpenAI konuyla ilgili basın açıklamasında, “Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duyuyoruz” dedi.
“Zehirli yalan kültürü”
Ancak şirketin medya gözündeki güvenirliği giderek düşüyor. Hatta, ünlü sinema oyuncusu Scarlett Johansson, OpenAI’yi ChatGPT’yi seslendirirken kendi sesini kullanmakla suçlamıştı. Ayrıca şirketin eski yöneticileri medya önünde yaptıkları açıklamalarda, Sam Altman’ın güvenilmez bir karaktere sahip olduğunu ve şirket içinde “zehirli bir yalan kültürü” geliştirdiğini vurgulamışlardı. Ve şimdi kurulan ve içerisinde Sam Altman’ın da bulunduğu komite, ilginç bir şekilde, “Sam Altman’ın zehirli yalan kültürü” ile savaşacak.
Yani OpenAI büyüdükçe şirket içi kavgalar daha fazla görünür olacak ve yapay zekanın güvenlik önlemleri konusu da medyanın gündemine taşınacak gibi anlaşılıyor. Bu tartışmaların büyümesine hazır olalım.
Kaynak: Chip – https://www.chip.com.tr/haber/openai-daha-guvenli-bir-yapay-zeka-icin-kollari-sivadi_163865.html
