KPMG'nin yapay zeka raporu kendi yapay zekasının hatasıyla çürütüldü

Danışmanlık firması KPMG, yapay zeka teknolojisinin sektördeki faydalarını anlatan bir rapor yayınlanırken, ironik bir şekilde aynı yapay zekanın yanılttığı bilgilerle dolu olduğu ortaya çıktı. Bağımsız araştırmacıların yaptığı inceleme, metinde çok sayıda "halüsinasyon" (yapay zekanın gerçek olmayan veri üretmesi) tespit etti. Bu durum, şirketlerin AI araçlarını yayın ve raporlama aşamasında ne kadar denetim altında tutması gerektiği sorusunu gündeme getirdi.

Neler bulundu?

Araştırmacılar, KPMG'nin geçen yıl hazırladığı ve yapay zekanın kurumsal dünyada ne gibi avantajlar sunduğundan bahseden raporu incelediler. Çalışmada, metin içinde sayısal veriler, alıntılar ve atıflar olarak sunulan birçok bilginin hiçbir kaynakta mevcut olmadığı saptandı. Özellikle istatistiksel rakamlar ve örnek olaylar, tamamen yapay zeka modelinin kendi "hayal ürünü" olarak ortaya çıktı.

Bu bulgu, büyük kurumsal raporların hazırlanmasında hız ve verimlilik sağlayan yapay zeka araçlarının, mutlaka insan editörlü kontrol mekanizmalarından geçmesi gerekliliğini göstermiştir.

Yapay zeka halüsinasyonu nedir?

Halüsinasyon terimi, dil modellerinin (metin işleyip yanıt üreten yazılımlar) eğitim verilerine dayanmaksızın tamamen uydurma bilgi veya kaynak yaratması anlamına geliyor. Model, sözcükleri mantıksal bir dizilişle birleştirirken, o bilginin doğru olup olmadığına bakmıyor. Genellikle kullanıcı, sunulan metni çok doğal görüyor ve onaylamaya yöneliyor.

Sektörün tepkisi

Teknoloji ve danışmanlık sektörü, bu olayın ardından yapay zeka tarafından hazırlanan içeriklerin yayınlanmadan önce katı kontrol prosedürlerinden geçmesi konusunda tartışmalara giriş yaptı. İşletmeler, maliyeti düşürmek ve üretimi hızlandırmak için AI'ye güvenirken, çıktıların doğruluğundan da sorumlu olmaya devam etmektedir.