Gemini ruh sağlığı güncellemesi aldı

Google’ın resmi blogunda yapılan açıklamaya göre Gemini, kullanıcıyla yapılan sohbet sırasında endişe verici ifadeleri algılayabiliyor. İntihar ya da kendine zarar verme ihtimali içeren durumlarda sistem devreye girerek kullanıcıya nasıl acil yardım alabileceğini gösteriyor.

Tek tuşla yardım hattına erişim

Yeni sistemle birlikte “Help is available” adlı bir arayüz sunuluyor. Bu özellik, kullanıcıyı kriz destek hatlarına doğrudan bağlayan tek dokunuşlu bir erişim sağlıyor. Kullanıcılar bu sayede telefonla arama yapabiliyor, mesaj gönderebiliyor, canlı sohbet başlatabiliyor ve destek sitelerine yönlendirilebiliyor.

Bu özellik, klinik uzmanlarla iş birliği içinde geliştirildi. Ayrıca yardım seçeneği, sohbet boyunca görünür kalmaya devam ediyor.

Google ayrıca Gemini’yi, yanlış psikolojik bilgileri doğrulamaması ve kullanıcıların subjektif deneyimleri ile gerçekleri dikkatli şekilde ayırması için de eğitti.

30 milyon dolarlık destek

Google, teknolojik güncellemelerin yanı sıra finansal destek de açıkladı. Google.org, önümüzdeki üç yıl içinde dünya genelindeki kriz destek hatlarına toplam 30 milyon dolar aktaracak.

Bu bütçenin 4 milyon doları, ReflexAI ile yapılan iş birliğinin genişletilmesine ayrılacak. Amaç, sivil toplum kuruluşlarının ruh sağlığı destek hizmetlerini güçlendirmek ve Gemini’yi bu alandaki eğitim sistemlerine entegre etmek.

Gençler için özel önlemler

Google, genç kullanıcılar için uygulanan güvenlik önlemlerini de detaylandırdı. Buna göre Gemini kendini insan gibi tanıtamıyor, duygusal bağ kurmaya yönelik ifadeler kullanmıyor ve kullanıcıyla “arkadaşlık” ya da “yakınlık” simülasyonu yapmıyor.

Bu önlemler, özellikle gençlerde duygusal bağımlılık riskini azaltmayı hedefliyor.

Artan davalar ve baskı

Yeni özellikler, yapay zekâ şirketlerinin artan hukuki baskı altında olduğu bir dönemde geldi. KQED’in haberine göre Florida’da hayatını kaybeden 36 yaşındaki bir kişinin ailesi, Google’a karşı dava açtı. Aile, chatbot kullanımının dört gün süren bir sürece dönüşerek intihara yol açtığını iddia ediyor.

Google’ın çatı şirketi Alphabet bu konuda yalnız değil. OpenAI ve diğer yapay zekâ geliştiricileri de, chatbotların duygusal bağımlılık yaratabileceği ve bazı durumlarda zararlı düşünceleri tetikleyebileceği gerekçesiyle benzer davalarla karşı karşıya.

ABD’de federal düzeyde net bir düzenleme bulunmaması nedeniyle, teknoloji şirketlerinin daha sorumlu davranmaya yönelmesinde mahkemelerin önemli rol oynadığı belirtiliyor.

Son olarak mart ayında Los Angeles’ta görülen bir davada jüri, sosyal medya bağımlılığıyla ilgili bir dosyada Meta ve Google’ı ihmalkâr buldu. Bu karar, teknoloji şirketlerinin kullanıcı içerikleri nedeniyle sorumluluktan muaf tutulmasını sağlayan “Section 230” korumasının sınırlarının da tartışılmasına yol açtı.

Yapay zekâ sektörü dönüşüyor

Son 18 ayda OpenAI ve Anthropic gibi şirketler de ruh sağlığına yönelik koruma mekanizmalarını güncelledi. Uzmanlara göre bu gelişmeler, yapay zekâ sektörünün kullanıcıların psikolojik hassasiyetlerini daha fazla dikkate almaya başladığını gösteriyor.