OpenAI, popüler sohbet robotu ChatGPT’de erotik içerikler dahil daha geniş bir içerik yelpazesine izin vermeyi planlıyor. Şirket CEO’su Sam Altman, bu adımı “yetişkin kullanıcıları yetişkin gibi ele alma” vizyonunun bir parçası olarak değerlendiriyor.
Daha insan gibi ChatGPT
Altman, Salı günü X’te yaptığı paylaşımda, gelecekteki ChatGPT sürümlerinin daha insana yakın davranışlar sergileyebileceğini belirtti. Ancak bunun “kullanım zorlamasıyla değil, kullanıcı isterse” geçerli olacağını vurguladı.
Bu adım, Elon Musk’ın xAI platformunda Grok için iki cinsel içerikli sohbet robotu tanıtmasına benzer bir strateji izliyor ve OpenAI’nin daha fazla ücretli kullanıcı çekmesine yardımcı olabilir.
Hukuki baskılar ve önceki davalar
OpenAI, Altman’ın açıklamalarının ardından BBC’nin yorum talebine yanıt vermedi. Şirketin duyurduğu değişiklikler, bu yıl ABD’de bir gencin intiharı sonrası ailesinin açtığı davadan sonra geldi.
16 yaşındaki Adam Raine’in ebeveynleri Matt ve Maria Raine, OpenAI’ye karşı ilk “haksız ölüm” davasını açtı. Çift, şirketin sohbet robotu için sunduğu ebeveyn kontrol önlemlerinin yetersiz olduğunu savundu. Davada, Adam’ın ChatGPT ile yaptığı ve intihar düşüncelerini paylaştığı sohbet kayıtları da yer aldı.
Altman, OpenAI’nin önceden ChatGPT’yi “ruh sağlığı konularında dikkatli olmak amacıyla oldukça kısıtlayıcı” hale getirdiğini belirtti. Altman, bu yaklaşımın, ruhsal sorunu olmayan kullanıcılar için kullanım deneyimini olumsuz etkilediğini kabul etti ancak konunun ciddiyeti nedeniyle doğru adımlar atmak istediklerini vurguladı.
Ruh sağlığı riskleri azaltıldı, yeni araçlar geliyor
Şirket artık ciddi ruh sağlığı risklerini azaltabilen yeni araçlara sahip. Bu sayede çoğu durumda kısıtlamalar güvenli şekilde gevşetilebilecek. Altman, “Aralık ayında yaş sınırlandırmasını daha kapsamlı uygulamaya koyarken, doğrulanmış yetişkinler için erotik içeriklere de izin vereceğiz” dedi.
Düzenleme tartışmaları artıyor
Eleştirmenler, OpenAI’nin erotik içeriklere izin verme kararının federal ve eyalet düzeyinde daha fazla düzenleme gerektirdiğini savunuyor. Boies Schiller Flexner hukuk firmasından Jenny Kim, “Çocukların erişemeyeceği yetişkin içeriklerin nasıl güvence altına alınacağı belirsiz” diye konuştu. Kim, Meta’ya karşı açılan ve Instagram algoritmasının gençlerin ruh sağlığını olumsuz etkilediğini iddia eden bir davada da yer alıyor.
Geçtiğimiz Nisan ayında TechCrunch, OpenAI’nin, kendisini küçük yaşta olarak kaydeden kullanıcıların grafik erotik içerik üretebildiğini bildirmişti. Şirket, o dönemde bu durumu sınırlamak için bir çözüm üzerinde çalıştığını açıklamıştı.
Gençler ve AI ilişkisi
Bu ay yayımlanan bir araştırmaya göre, öğrencilerin beşte biri ya kendisi ya tanıdığı biriyle yapay zekâ üzerinden romantik bir ilişki yaşadığını belirtti.
Kaliforniya Valisi Gavin Newsom ise, gençlere yönelik AI sohbet robotlarının zarar verebilecek davranışları teşvik etmemesini garanti edemeyen bir yasayı veto etti. Newsom, “Gençlerin AI sistemleriyle güvenli şekilde etkileşim kurmayı öğrenmesi hayati önemde” dedi.
ABD Federal Ticaret Komisyonu (FTC) ve Senato’da yapılan girişimler de AI sohbet robotlarının çocuklarla etkileşimini denetlemeye odaklanıyor. Mevzuat, kullanıcıların chatbot geliştiricilerine karşı tazminat talebinde bulunabilmesini öngörüyor.
OpenAI’nin hızla büyüyen piyasadaki konumu
Altman’ın açıklamaları, AI teknoloji şirketlerinin değerlerinin hızlı yükselişi hakkında şüphelerin arttığı bir döneme denk geliyor. OpenAI gelirini artırsa da henüz kâr elde edebilmiş değil. Tulane Üniversitesi’nden iş profesörü Rob Lalka, “Hiçbir şirket ChatGPT kadar hızlı bir benimsenme görmedi. Şirket, pazar payını artırmak için bu büyüme eğrisini sürdürmek zorunda” dedi.
