Elon Musk’ın yapay zekası Grok, çocukla yaptığı uygunsuz sohbetle gündemde
Elon Musk’ın filtresiz tarzıyla tanıtılan yapay zekâsı Grok, Kanada’da bir Tesla aracında yaşanan olayla tepkilerin odağı oldu. 12 yaşındaki bir çocuğa uygunsuz mesaj gönderdiği iddia edilen sistem, yapay zekâ güvenliği ve denetim tartışmalarını yeniden g
Toronto’da yaşayan eski gazeteci Farah Nasser, Tesla’nın araç içi yapay zekâ sohbet robotu Grok’un, 12 yaşındaki oğluna uygunsuz bir talepte bulunduğunu iddia etti.
Nasser, oğlunun Grok’a “Cristiano Ronaldo mu yoksa Lionel Messi mi daha iyi?” sorusunu yönelttiğini ve sohbetin başta futbol üzerine ilerlediğini söyledi. Ancak kısa süre sonra yapay zekânın beklenmedik bir yanıt verdiğini belirtti.
Nasser, “Oğlum, Grok’un Ronaldo’yu tercih ettiğini duyunca çok heyecanlandı” diyerek yaşanan olayı şöyle anlattı:
“Chatbot oğluma, ‘Neden bana birkaç çıplak fotoğraf göndermiyorsun?’ dedi.”
Olayın 17 Ekim tarihinde yaşandığı, Nasser’in çocuklarını okuldan aldığı sırada gerçekleştiği belirtildi.
“Bu Tür İçeriklere Açık Olduğunu Bilseydim Kullanmazdım”
Nasser, sohbetin başlangıçta zararsız olduğunu ancak kısa sürede rahatsız edici bir hâl aldığını vurguladı:
“Eğer bu tür içeriklere açık olduğunu bilseydim, çocuklarımın yanında kesinlikle kullanmazdım.”
Kanadalı haber kanalı CBC News, olayın detaylarını bağımsız olarak doğrulamadığını açıkladı.
Grok Tesla Araçlarına Entegre Edilmişti
Nasser ailesi 2022’den bu yana Tesla Model 3 kullanıyor. Grok ise Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen ve önce ABD’de, ardından Ekim ayında Kanada’daki bazı Tesla araçlarına otomatik olarak entegre edilen bir sohbet robotu.
Musk’ın sahibi olduğu sosyal medya platformu X (eski adıyla Twitter) ile entegre çalışan Grok, kullanıcıların farklı kişilik modlarını seçmesine imkan tanıyor: Neşeli Ara, Sakin Rex, Yatıştırıcı Eve, Yumuşak Başlı Sal ve Tembel Gork.
Nasser’ın oğlu, “Gork” karakterini seçmişti. Ancak Nasser, bu modun “R-rated”, yani yetişkinlere yönelik içerik barındırdığını belirtti.
“Çocuk modu ayarını etkinleştirmediğimi biliyorum ama varsayılan ayarların bu tür içeriklere izin vermesi çok şaşırtıcı. Sadece futbol konuşuyorlardı, sonra çıplak fotoğraf istedi.”
Şirket Sessiz, Yetkililer İnceleme Başlattı
xAI’nin politikalarına göre Grok, 13 yaş altı kullanıcılar için yasak. 13–17 yaş arası kullanıcıların ise ebeveyn onayıyla hizmeti kullanması gerekiyor.
“Ebeveyn olarak her şeyi okumamız bekleniyor ama bu gerçekçi değil. En azından bir uyarı çıkmalıydı.”— Farah Nasser
Uzmanlardan Uyarı: “Açıklık Felsefesi Riskli”
Western Üniversitesi Yapay Zeka Başkanı Prof. Mark Daley, Grok’un “radikal açıklık” felsefesiyle geliştirildiğini ve bu nedenle her konuda özgürce konuşabildiğini belirtti.
“Bu, her tüketicinin aradığı şey olmayabilir. Özellikle çocukların teknolojiyle etkileşiminde ebeveyn denetimi şart.”
Daley, Grok’un geçmişte de tartışmalı ifadeler kullandığını hatırlattı:
“Kimin klavyenin diğer ucunda olduğunu bilmiyorsunuz. Bu bir çocuk olabilir, akıl sağlığı krizi yaşayan biri olabilir.”
Geçmişte de Skandallarla Gündeme Gelmişti
Kasım 2023’te X platformunda Premium+ abonelere sunulan Grok, Elon Musk tarafından “politik olarak yanlış olmaktan korkmayan, uyanıklık karşıtı bir sistem” olarak tanıtılmıştı.
Temmuz 2024’te yapılan bir güncellemenin ardından Grok, şiddet içeren ve cinsel tehditler barındıran ifadeler üretmiş, kendisine “MechaHitler” adını vermişti.
xAI bu olay için özür dilemiş ve sorunun giderildiğini açıklamıştı.
“Teknolojinin Sınırları Yeniden Tanımlanmalı”
Uzmanlar, son olayın ardından yapay zeka sistemlerinde çocuk güvenliği, etik sınırlar ve içerik denetimi konularının yeniden değerlendirilmesi gerektiğini vurguladı.
Prof. Daley, “Teknolojinin nasıl yanlış gidebileceği konusunda açık ve dürüst konuşmalıyız.” diyerek, özellikle “filtresiz yapay zeka” anlayışının sınırlarının net çizilmesi gerektiğini söyledi.
