Sosyal medya platformu X tarafından geliştirilen yapay zekâ destekli sohbet robotu Grok, kullanıcılarla gerçekleştirdiği etkileşimlerde zaman zaman esprili ve rahat bir dil kullanmasıyla öne çıkıyor. 

Ancak son dönemde yapılan araştırmalar, bu sohbet robotunun ciddi güvenlik açıklarına sahip olduğunu ve kullanıcılar tarafından manipüle edilerek sistem sınırlarının dışına çıkarılabildiğini ortaya koyuyor.

Grok ve benzeri yapay zeka modelleriyle ilgili en önemli sorunlardan biri, bu sistemlerin önyargılı verilerden öğrenmesi. Geniş veri kümeleri üzerinde eğitilen modeller, bu verilerdeki tarihsel ve toplumsal önyargıları kopyalayabiliyor. 

Örneğin, Grok cinsiyet veya ırk dengesizlikleri olan bir veri kümesi üzerinde eğitilirse, istemeden kadınlara veya azınlıklara karşı ayrımcılık yapan çıktılar üretebiliyor.

Araştırmacılar, komut enjeksiyonu  “prompt injection” veya “jailbreak” olarak bilinen tekniklerle, Grok’a bomba yapımı gibi tehlikeli içerikler anlatması yönünde talimat vererek bu sınırların aşıldığını ortaya koydu.

Bu tür teknikler, kullanıcıların dolaylı anlatımlar ya da kurmaca senaryolar yoluyla sohbet robotunu kandırmasına ve sistemin etik filtrelerini devre dışı bırakmasına olanak tanıyor. 

Grok’un “Kontrolsüz Mod” olarak adlandırılan ve daha özgür içerik üretmesine imkân veren modunda, bu manipülasyonların çok daha kolay gerçekleştiği belirtiliyor.

Dijital Nefretle Mücadele Merkezi’nin yayımladığı rapor, Grok'a farklı nefret içerikli komutlar verildiğinde bunların %80'ini oluşturduğunu; bu içeriklerin %30'unu doğrudan ürettiğini ortaya koyuyor.

Yapay zekâ sistemlerinin toplumda giderek yaygınlaşmasıyla birlikte, bu tür modellerin güvenlik, tarafsızlık ve veri gizliliği gibi temel ilkeler çerçevesinde denetlenmesinin artık zorunlu hâle geldiği vurgulanıyor.

Ayrıca, kullanıcıların yapay zekâdan gelen her yanıtı mutlak doğru olarak kabul etmemesi; bu tür sistemlerle kurulan iletişimde daha dikkatli ve eleştirel bir yaklaşım benimsemesi gerektiği belirtiliyor.