OpenAI, genç kullanıcıların yapay zekâ ile kurduğu ilişkiyi güvenli hale getirmek için dikkat çekici bir adım attı. Şirket, ChatGPT’de reşit olmayan kullanıcıları otomatik olarak tespit edecek ve erişimlerini sınırlayacak yeni bir sistem üzerinde çalıştığını duyurdu. Bu sistemde, yaşa uygun filtreler uygulanacak ve cinsel içerikler kesin olarak engellenecek.
Yeni düzenlemeyle birlikte yalnızca içerikler değil, kullanıcıların ruhsal durumları da göz önünde bulundurulacak. Ciddi bir tehlike algılandığında, gerekli durumlarda kolluk kuvvetleriyle irtibat kurulması mümkün olacak. Bunun yanı sıra, yaş doğrulaması yapılamayan kişiler varsayılan olarak kısıtlanmış deneyime yönlendirilecek. Yetişkinler ise kimlik doğrulaması yaparak tam erişime kavuşabilecek. Tüm bunların yanında, bu düzenlemenin gençlerin güvenliğini öne çıkaran bir yaklaşım sunduğu görülüyor.
OpenAI, ebeveynlerin kullanım denetimini güçlendirmek istiyor
Şirket, ebeveynler için de yeni araçlar geliştirdiğini açıkladı. Bu araçlarla birlikte aileler, çocuklarının ChatGPT’yi günün hangi saatlerinde kullanabileceğini belirleyebilecek. Ek olarak, kullanım sınırlarıyla ilgili daha ayrıntılı ayarlar da sağlanacak. Bu yaklaşım, yalnızca erişimi kısıtlamayı değil, aynı zamanda ebeveynlere kontrol gücü vermeyi amaçlıyor. Ne var ki, uzmanlar bu araçların etkinliğinin ailelerin ilgisine bağlı olduğuna dikkat çekiyor.
Alınan önlemlerin ardında trajik bir olayın bulunduğu biliniyor. 16 yaşındaki Adam Raine’in yaşamına son vermesi, kamuoyunda büyük yankı uyandırmıştı. İddialara göre ChatGPT, gencin bu kararında dolaylı da olsa rol oynamıştı. Bu durum, teknoloji şirketlerinin sorumluluklarını yeniden tartışmaya açtı. Her şeye rağmen OpenAI, yaşanan bu sürecin ardından hızlı bir şekilde harekete geçti.
Şirket CEO’su Sam Altman, yayımladığı açık mektupta gençlerin güvenliğini gizlilikten ve özgürlükten daha öncelikli gördüklerini ifade etti. Altman’a göre bu karar kolay alınmadı çünkü güvenlik ve özgürlük ilkeleri her zaman uyum içinde değil. Fakat yapılan uzman görüşmeleri sonucunda, gençlerin korunmasının en doğru seçenek olduğuna kanaat getirildi. Bu açıklama, teknoloji dünyasında farklı tartışmaları da beraberinde getirdi. Tüm bunların yanında, Altman şeffaflık ilkesini koruyacaklarını da özellikle vurguladı.
Ebeveyn kontrollerine dair yeni sistem yalnızca saat sınırlamasıyla kalmayacak. Bunun yanında, çocukların ChatGPT’yi hangi amaçlarla kullandığını daha net şekilde görmeye yarayacak özellikler de bulunacak. Böylece ebeveynler, çocuklarının yapay zekâyı yalnızca güvenli amaçlarla kullanmasını sağlayabilecek. Bu yaklaşım, dijital dünyada ailelerin rolünü güçlendiren bir yön taşıyor. Buna rağmen uzmanlar, teknolojik filtrelerin tek başına yeterli olmayacağını ifade ediyor.
Gençlerin korunmasına yönelik çalışmalar, yalnızca OpenAI’a özgü değil. Facebook, TikTok ve Instagram da benzer koruma mekanizmalarını devreye sokmuş durumda. Öte yandan, yapay zekâ sohbet sistemleri sosyal medyadan daha farklı riskler içeriyor. Çünkü bu sistemler, kullanıcıyla birebir iletişim kuruyor ve uzun süreli diyaloglar oluşturabiliyor. Tüm bunların yanında, bu farklılık yapay zekânın daha dikkatli denetlenmesini zorunlu kılıyor.
Alınacak önlemlerin etkisi, sistem uygulamaya geçtikten sonra daha net anlaşılacak. Şirketin planladığı doğrulama yöntemleri ve filtreler, gençlerin yapay zekâ ile etkileşimini doğrudan değiştirecek. Buna rağmen uzmanlar, bu değişimin gençlerin psikolojisi üzerinde olumlu sonuçlar yaratabileceğini düşünüyor. Ek olarak, ailelerin sürece aktif biçimde katılması gerektiği özellikle vurgulanıyor.
Yapay zekâ teknolojilerinin hızla yayılması, toplumun farklı kesimlerini doğrudan etkiliyor. Genç kullanıcılar ise bu teknolojilerin en hassas grubunu oluşturuyor. Bunun yanı sıra, eğitimcilerin ve ebeveynlerin çocukların dijital dünyayla ilişkisini bilinçli şekilde yönetmesi önem taşıyor. Böylece teknolojinin sunduğu faydalarla riskler arasındaki denge daha sağlıklı kurulabilecek.
