Google, Yapay Zekasının Deepfake Uydu Görüntüleri Üretmesinden Sonra Özelliği Geri Çekti

Google, kendi geliştirdiği yapay zeka aracının deepfake (sahte ancak gerçekçi görünen video veya fotoğraf) uydu görüntüleri üretme riski taşıdığını tespit ederek, Earth uygulamasındaki bu özelliği hızlıca kaldırdı. Araç yalnızca birkaç gün içinde erişim dışına alındı. Şirket, özelliğin potansiyel kötüye kullanım vakaları konusunda güvenlik uzmanlarıyla yoğun görüşmeler yaptığını belirtti.

Özür Dileyen Bir Teknoloji Devinin Nadir Hamlesi

Google, geçtiğimiz haftalarda Earth platformuna entegre ettiği yapay zeka görüntü üreticisinin, kullanıcılara gerçekçi fakat tamamen uydurma harita ve uydu fotoğrafları oluşturmada muktedir olduğunu anladı. Teknoloji, teorik olarak merkezi bir konuma (örneğin Central Park gibi) kişinin rüya evini yerleştirebilmişti.

Ancak bu işlevsellik, aynı zamanda yanlış bilgi yayılması ve coğrafi verilerin manipüle edilmesi açısından ciddi bir tehdit oluşturuyordu. Gazeteciler, araştırmacılar ve hukuk müşaviri çevreler, aracın imar projeleri hakkında yanıltıcı görüntüler yaratmak veya kamuoyunu kandırmak için kullanılabileceğini uyarmıştı.

Yapay Zeka Düzenlemesinin Ön Saflarında

Bu adım, teknoloji sektöründe yapay zeka uygulamalarının denetlenmesi konusundaki artan baskıyı yansıtıyor. Özellikle görsel içerik oluşturma alanında, deepfake teknolojileri seçim kampanyaları, halkla ilişkiler ve finans piyasaları gibi hassas alanlarda manipülasyon için kullanılma potansiyeli taşıyor.

Google'ın erken müdahalesi, diğer teknoloji firmalarına da benzer kontrolleri daha yakından takip etmesi gerektiğine işaret ediyor. Özellikle generative AI (üretken yapay zeka) araçları, Avrupa Birliği ve bazı ülkelerin yeni düzenlemeleriyle daha sıkı denetim altına alınmaya başlandı.

Hız Önemli Mi?

Endüstri gözlemcileri, Google'ın sorunun tanınmasından kalkışı kapatılmasına kadar geçen sürenin oldukça kısa olduğunu not etti. Bu, şirketin iç kontrol mekanizmalarının işe yarası anlamına gelse de, özelliğin önce yayınlanmasından sonra çekilmesi, tasarım ve denetim aşamasında boşlukların bulunduğunu gösteriyor.