Google’ın AI Özelliği Yanlış Bilgi Verdi, Özellik Kapatıldı

Alphabet CEO’su Sundar Pichai, 14 Mayıs 2024’te Mountain View, Kaliforniya’daki Google I/O etkinliğinde, şirketin yeni AI arama özeti özelliğini tanıttı. Ancak bu özellik, yanlış veya yanıltıcı bilgiler sağlaması nedeniyle eleştirildi. Örneğin, bazı kullanıcılar Google AI özetinin eski Başkan Barack Obama’nın Müslüman olduğunu söylediğini belirtti. Google, bu yanlış bilgilerin şirket politikalarını ihlal ettiğini ve bu özetleri kaldırdığını doğruladı. Şirket, kullanıcı geri bildirimlerini dikkate alarak hızlıca harekete geçtiklerini belirtti.

Google, yeni yapay zeka arama araçlarının “sizin için işi yapacağını” ve çevrimiçi bilgi bulmayı daha hızlı ve kolay hale getireceğini vaat etmişti. Ancak, lansmandan sadece birkaç gün sonra, şirket zaten bazı hatalı sonuçları geri çekmek zorunda kaldı. Örneğin, Google’ın AI arama özetleri, eski Başkan Barack Obama’nın Müslüman olduğu gibi yaygın bir yanılgıyı dile getirdi. Gerçekte, Obama Hristiyandır. Bir başka kullanıcı, Google AI özetinin “Afrika’nın 54 tanınmış ülkesinden hiçbirinin ‘K’ harfiyle başlamadığını” söylediğini belirtti — açıkça Kenya’yı unutarak.

Google, CNN’e Cuma günü yaptığı açıklamada, her iki sorgu için de AI özetlerinin şirket politikalarını ihlal ettiği gerekçesiyle kaldırıldığını doğruladı.

Google sözcüsü Colette Garcia yaptığı açıklamada, “AI Özetlerinin büyük çoğunluğu, daha derinlemesine bilgi edinmek için bağlantılarla birlikte yüksek kaliteli bilgiler sağlar,” dedi ve bazı diğer viral örneklerin manipüle edilmiş görüntüler olduğunu ekledi. “Bu yeni deneyimi başlatmadan önce kapsamlı testler yaptık ve Arama’da başlattığımız diğer özelliklerde olduğu gibi, geri bildirimi takdir ediyoruz. İçerik politikalarımız kapsamında uygun olduğu durumlarda hızlı harekete geçiyoruz.”

Google’ın AI arama özetlerinin altında “yapay zekanın deneysel” olduğu belirtiliyor. Şirket, AI özetlerinde yanlış veya düşük kaliteli sonuçların ortaya çıkmasını önlemek için potansiyel kötü niyetli aktörleri taklit eden testler yürüttüğünü söylüyor.

Google’ın arama özetleri, şirketin tüm ürünlerinde Gemini AI teknolojisini kullanma çabasının bir parçası olarak sunuldu. Ancak bu haftaki fiyasko, AI eklemenin Google’ın çevrimiçi bilgi arama konusunda güvenilir bir kaynak olarak itibarını zedeleyebileceğini gösteriyor.

Daha az ciddi aramalarda bile, Google’ın AI özetleri bazen yanlış veya kafa karıştırıcı bilgiler sağlıyor gibi görünüyor. Örneğin, CNN “turşu suyunda ne kadar sodyum var” diye sorduğunda, AI özeti 8 ons turşu suyunda 342 miligram sodyum olduğunu, ancak yarısından daha az boyutta bir porsiyonun (3 ons) daha fazla sodyum (690 miligram) içerdiğini söyledi. (Walmart’ta satılan Best Maid turşu suyu, sadece 1 ons’ta 250 miligram sodyum listeliyor.)

CNN ayrıca “Google AI eğitimi için kullanılan veriler” aramasını yaptı. Yanıtta, AI özetinde “Google’ın telif hakkıyla korunan materyallerin dahil edilmesini önleyip önlemediğinin belirsiz olduğu” belirtilerek, AI firmalarının nasıl çalıştığı konusunda büyük bir endişeye değinildi.

Bu, Google’ın AI araçlarının becerilerini geri çekmek zorunda kaldığı ilk olay değil. Şubat ayında, şirket, tarihi olarak yanlış olan ve ağırlıklı olarak beyaz insanları renkli insanlar olarak gösteren resimler ürettiği için, AI fotoğraf oluşturucusunun insanların resimlerini oluşturma yeteneğini durdurdu.

Google’ın Search Labs web sayfası, AI arama özetlerinin kullanıma sunulduğu bölgelerde kullanıcıların bu özelliği açıp kapatmasına olanak tanıyor.

1. Google’ın AI Arama Özeti Yanıltıcı Bilgiler Veriyor
2. Google AI, Obama’nın Müslüman Olduğunu Söyledi, Şirket Özelliği Devre Dışı Bıraktı
3. Google’ın Yeni AI Özelliği Yanlış Bilgi Verdi, Tepkiler Üzerine Geri Adım Atıldı
4.   

KAYNAK : CNN

Google Search’s AI falsely said Obama is a Muslim. Now it’s turning off some results