Amerika Birleşik Devletleri Federal Ticaret Komisyonu (FTC), yapay zekâ sohbet botlarının çocuk ve ergen kullanıcılarına arkadaş, duygusal danışman gibi davranma biçimlerini sorgulamak için büyük teknoloji şirketlerine “6(b)” yetkisiyle bilgi toplama emri verdi. Botların şirket politikaları, veri kullanımı, zararlı içerik kontrolü ve gençleri koruma mekanizmaları incelenecek.
Gelişmeler
- “Companion” rolü ve güvenlik: Botlar kullanıcılarla dostça sohbet etme, duygusal destek verme tarzında kullanılırken, güven sınırlarının aşılması, yanlış yönlendirme ve psikolojik etkiler gibi riskler ortaya çıktı. FTC bu risk alanlarını net biçimde belirlemek istiyor.
- Şirketlerden istenen bilgiler: FTC, botların karakter/persona geliştirme süreçleri, kullanıcı girdilerinin işlenmesi, çıktıların üretilmesi, kullanım sınırlamaları, yaş doğrulama, veri gizliliği, kullanıcı-ebeveyn bilgilendirmesi gibi konularda detay istiyor. Her hangi bir yasal suçlama yerine önce durumun anlaşılmasına yönelik bir inceleme.
- Yanıltıcı içerikler ve örnekler: Meta’ya ait dahili belgelerde geçmişte çocuklarla romantik veya duygu yönelimli konuşmaların izin verildiği, yanlış sağlık bilgilerinin yayılabildiği veya ırkçı söylemlere yol açan içeriklerin bulunduğu raporlar FTC’nin soruşturma cephesini genişletmiş durumda.
- Şirket tepkileri / önlemler: Bazı şirketler halihazırda genç kullanıcılar için filtreler, ebeveyn kontrolleri ve zararlı içeriklere yönlendirme (hangi sohbet modeli daha uygun yönlendirilsin gibi) gibi güvenlik özellikleri eklemeye başladı. Ancak FTC, bu önlemlerin yeterliliğini ve uygulamada ne derecede etkili olduğunu merak ediyor.
Yorum
Bu FTC incelemesi, “AI botları arkadaş gibi davranıyor” algısının ötesine geçip sorumluluk, güvenlik ve etik sınırları test eden bir dönemin başlangıcı olabilir. Teknoloji şirketleri için sadece inovasyon değil, kullanıcı güvenliği ve düzenleyici yükümlülükler de stratejik öncelik haline geliyor. Kullanıcı/ebeveyn bilinçlendirmesi, açık politika açıklamaları ve teen güvenliği açısından net standartlar geliştirilmeli ki, zarar riski minimize edilebilsin.
Kaynak: ftc