Yeni bir California faturası (SB 243), AI chatbots ile etkileşime giren çocuklar için önlemler almayı amaçlamaktadır. Senatör Steve Padilla tarafından önerilen mevzuat, AI şirketlerinin, yapay zekanın “bağımlılık yapan, izole edici ve etkili yönlerini” engelleme çabasıyla genç kullanıcılara sohbet botlarının insan olmadığını düzenli olarak hatırlatmasını gerektirecektir.
Tasarı ayrıca AI geliştiricilerinin küçüklere potansiyel olarak zarar verebilecek “bağımlılık yapıcı katılım kalıpları” kullanmasını önlemeyi amaçlıyor. Ayrıca, şirketlerin AI'larının çocuklarda intihar düşüncesi tespit ettiği veya ilgili konuları gündeme getirdiği durumları detaylandıran Devlet Sağlık Hizmetleri Bakanlığı'na yıllık raporlar sunmaları gerekecektir. AI platformları, kullanıcıları sohbet botlarının bazı çocuklar için uygun olmayabileceği konusunda uyarması gerekecektir.
Önerilen Okuma:Dragon Copilot: Microsoft'un AI çözümü klinisyen tükenmişliğini hafifletmeyi amaçlıyor
Mevzuat, AI sohbet botlarının genç kullanıcılar üzerindeki psikolojik etkisi ile ilgili artan endişeleri izlemektedir. Geçen yıl, bir ebeveyn, AI chatbotlarının botlarla sık sık etkileşime giren çocuklarının intiharla öldükten sonra “mantıksız derecede tehlikeli” olduğunu iddia ederek Charter.ai'ye karşı yanlış bir ölüm davası açtı. Başka bir dava, şirketi gençleri zararlı içeriğe maruz bırakmakla suçladı. Yanıt olarak, CHARCE.AI ebeveyn kontrolleri tanıttı ve genç kullanıcıların hassas konuları filtrelemeleri için özel bir AI modeli geliştirdi.
Senatör Padilla, “Çocuklarımız, teknoloji şirketlerinin zihinsel sağlıkları pahasına denemeleri için laboratuvar fareleri değil” dedi. “Geliştiricilerin bağımlılık yapıcı ve yırtıcı olduklarını bildikleri stratejileri kullanmasını önlemek için chatbot kullanıcıları için sağduyu korumalarına ihtiyacımız var.”
Hükümetler sosyal medya platformlarını düzenleme çabalarını artırdıkça, AI chatbots yakında benzer bir incelemeyle karşılaşabilir. Geçerse, bu California faturası, çocukları çevrimiçi olarak korumayı amaçlayan gelecekteki AI düzenlemeleri için emsal teşkil edebilir.