OpenAI, ABD’de çocukların çevrim içi ortamda daha güçlü şekilde korunmasını amaçlayan Kids Online Safety Act (Çevrimiçi Çocuk Güvenliği Yasası-KOSA) yasa tasarısına destek verdiğini açıkladı. ChatGPT’nin güvenlik politikaları nedeniyle son dönemde çeşitli davalarla karşı karşıya kalan şirket, bu desteğin çocuk güvenliği konusunda “yapay zekâya özel kurallar” oluşturulmasına yönelik daha geniş kapsamlı yaklaşımının bir parçası olduğunu belirtti.
OpenAI’ın açıklaması, Senato’dan 2024 yılında geçen KOSA tasarısının yeniden gündeme geldiği bir dönemde geldi. İlk kez 2022’de sunulan tasarı, sosyal medya şirketleri ve çevrim içi platformlar için çocuklara yönelik koruma yükümlülüklerini artırmayı hedefliyor. Tasarının güncel versiyonu, özellikle algoritmik öneriler ve bağımlılık oluşturduğu düşünülen özellikler konusunda yeni sınırlamalar içeriyor.
KOSA kapsamında sosyal medya uygulamalarının, reşit olmayan kullanıcıların algoritmik içerik önerilerinden ve bağımlılık yaratabilecek özelliklerden çıkış yapmasına izin vermesi gerekiyor. Bunun yanında platformlara “özen yükümlülüğü” getirilmesi planlanıyor. Bu yükümlülük çerçevesinde şirketlerin yeme bozuklukları, intihar eğilimleri ve cinsel istismarı teşvik eden zararlı içeriklerin etkisini azaltacak önlemler alması bekleniyor. Tasarı, çocukların çevrim içi deneyimini daha güvenli hâle getirmeyi amaçlasa da teknoloji ve dijital haklar alanında farklı görüşlerin ortaya çıkmasına neden olmuş durumda.
OpenAI yapay zekâ platformlarının da düzenleme kapsamına girmesi gerektiğini savunuyor
OpenAI Küresel İlişkilerden Sorumlu Başkanı Chris Lehane yaptığı açıklamada, sosyal medya platformlarının geçmişte yaptığı hataların tekrarlanmaması gerektiğini söyledi. Lehane, genç kullanıcılar için güçlü güvenlik önlemlerinin sosyal medya platformları hayatın merkezine yerleştikten sonra uygulanmaya başlandığını hatırlattı. Buna rağmen yapay zekâ araçlarının daha erken aşamada düzenlenmesinin mümkün olduğunu ifade eden Lehane, KOSA’nın şirketin mevcut güvenlik çalışmalarıyla “tamamlayıcı” bir ilişki içinde olduğunu dile getirdi. OpenAI, özellikle genç kullanıcıların ChatGPT ve benzeri sistemlerle etkileşimi konusunda daha net kurallar oluşturulmasını desteklediğini vurguluyor.
Tasarıya destek veren şirketler arasında Apple, Microsoft, Snap ve X de bulunuyor. Buna karşın Meta gibi büyük teknoloji şirketlerinin üyesi olduğu NetChoice isimli ticaret grubu, KOSA’nın sansüre yol açabileceğini savunuyor. Grup, söz konusu düzenlemenin çocukları daha güvenli hâle getirmeden ifade özgürlüğünü sınırlayabileceği görüşünde. Elektronik Sınır Vakfı (EFF) gibi dijital haklar savunucuları da benzer kaygılar nedeniyle tasarıya karşı çıkıyor. Eleştiriler ağırlıklı olarak içerik denetimi mekanizmalarının genişletilmesinin çevrim içi ifade alanını daraltabileceği noktasında yoğunlaşıyor.
Öte yandan OpenAI’ın bu desteği, şirketin güvenlik politikalarına yönelik eleştirilerin arttığı bir döneme denk geliyor. Şirket kısa süre önce, bir gencin ChatGPT ile yaptığı konuşmaların ardından intihar ettiği iddiasıyla açılan dava nedeniyle gündeme gelmişti. Aile, sohbet botunun yeterli güvenlik önlemlerine sahip olmadığını öne sürüyor. Bunun yanında başka bir aile de ChatGPT’den alınan yanlış tıbbi tavsiyelerin ardından genç bir kullanıcının aşırı doz nedeniyle zarar gördüğünü iddia ederek dava açtı. Bu gelişmeler, yapay zekâ sistemlerinin özellikle genç kullanıcılar üzerindeki etkisinin daha yakından incelenmesine yol açıyor.
