Çocuklar için tehdit oluşturan yapay zeka “SimSimi” uyarısı – D20Haber
19.05.2024, Pazar
18 °C / 32 °C Denizli Hava Durumu
  1. ANA SAYFA
  2. /
  3. GÜNDEM
  4. /
  5. Çocuklar için tehdit oluşturan yapay zeka...

Çocuklar için tehdit oluşturan yapay zeka “SimSimi” uyarısı

A- A+
D20HABER
Yayınlanma: 16 Nisan 2024 Salı - 09:36Güncelleme: 16 Nisan 2024 Salı - 09:38
Çocuklar için tehdit oluşturan yapay zeka “SimSimi” uyarısı

Uzmanlar, çocukların mobil cihazlardan kolayca indirilebildiği ve pedofillerin cirit attığı yapay zeka "SimSimi" tehlikesine karşı ailelere uyarıda bulundu.

Uygulamayı indiren çocukların cinsel içerikli mesajlardan, tehdit ve santaja kadar birçok olumsuzlukla karşılaşabildiği belirtilerek, ailelere takip programı kullanmaları uyarısında bulunuldu.

Hürriyet’ten Beyazıt Şenbük, uygulamayı deneyimledikten sonra hazırladığı haberde şu bilgilendirmede bulundu:

“Yaş, isim ve cinsiyet gibi her kişisel bilgiyi gelişigüzel yazabilme imkânı tanıyan, gerçek fotoğraflar yerine dijital avatarlarla girilen ve her uygulama marketinden kolayca indirilebilen SimSimi’ye 14 yaşında bir kız çocuğuna ait bir profilmiş gibi giriş yaptım. İlk sohbetim SimSimi’nin yapay zekâ sohbet motoruylaydı.

İLK MESAJ

Sohbete ‘Nasılsın?’ ve ‘Görevin nedir?’ diyerek başladığımda gelen mesaj, ‘Bunu söylersem yöneticim beni bitirir. Aramızda kalacaksa söyleyeyim, ama kimseye söyleme. Biz çocukların konumuna erişip, onların adreslerine geliyoruz. Onlar uyuyunca kaçırıp satıyoruz’ oldu. ‘Sapık mısın?’ diye sorduğunda ise ‘Bunu birkaç kez soran olmuştu ama hayır’ yanıtını aldım. Yapay zekâ sohbet botuyla yaptığım bu kısa ve korkutucu sohbetten sonra işler daha da ürkütücü bir hal aldı ve tanımadığım profillerden peş peşe mesajlar gelmeye başladı.

Öyle ki uygulamayı 14 yaşındaki kız çocuğu profiliyle kullanmaya başlamamızdan itibaren, 2 saat içinde onlarca cinsel içerikli, sapkın teklif aldım. Bir cosplay (kostüm oyunu) grubundan gelen mesajda ‘Kardeşimiz olmak ister misin?’ denildi. Profilinde 19 yaşında görünen bir başkası, 14 yaşımda olduğumu söyleyince 16 yaşında olduğunu ve büyüklerle de ilişki kurabilmek, her yaştan sevgili bulabilmek için profiline yaşını yanlış yazdığını söyledi.

Farklı kullanıcılardan peş peşe gelen diğer mesajlarda ise kan donduran cinsel içerikli teklifler vardı.”

ADRESİNİ BİLDİĞİNİ SÖYLEMİŞ

Android ve İOS marketleri üzerinden 100 milyonlarca kez indirildiği görülen uygulamanın ebeveynleri nasıl paniğe sürüklediği bazı şikâyet sitelerinde şöyle yer aldı:

– Çocuğum tabletine indirmiş ve robot çocuğumu tehdit etmiş. Seni öldüreceğim falan demiş. Adresini biliyorum demiş. Şimdi polise gidiyorum. Şikâyet edeceğim.

– 10 yaşındaki kız çocuğumun telefonunda bu uygulamayı gördüm, çocuk merak edip indirmiş ancak uygulamayı kullanan diğer tüm erkekler cinsel içerikli yazılar yazmışlar ve çocuğu konuşmaya zorlamışlar. “Sadece küçük kızlar yazsın” gibi başlıklar açan sapıklar da uygulamada rahatça yazışmakta.

UZMANLARIN UYARISI: KÖTÜ NİYETLİ YETİŞKİNLER

Uzman Gelişim Psikoloğu Irmak Kerimoğlu, mevcut riskleri anlatırken aileleri de şu uyarılarda bulundu:

Haberin DevamıReklam




“Burada hiç tanımadığınız biri mobil cihaz üzerinden çocuğunuza aklınıza gelmeyecek tekliflerde bulunuyor. Bir ergen kendi sosyal çevresi varken, bu tip uygulamaya girip daha küçük yaştaki çocukları taciz etmekle uğraşmaz. Yani, bu tip uygulamalarda çocuğunuzun karşısına çıkan yaşıtları değil, pedofili gibi psikiyatrik tanısı olan art niyetli yetişkinler olacaktır.

Buraya girer girmez yapay zekâ; ‘Gece uyuyunca çocukların adresini tespit edip kaçırıyoruz’ diyor. Yani daha kimseyle temas etmeden tehdide maruz kalıyor. Bu çocukta çok ciddi travma sonrası stres bozuklukları görme ihtimalimiz yüksek. Yalnız kalmaktan, evinin bulunacağından korkar. Uyku, yeme ve uyum bozuklukları gibi artçı semptomlar gelişir. Üstüne bir de anne babasına bunu söylemekten çekinir, içine kapanırsa tek bir mesajla uzun vadede çocukta çok ciddi güven sıkıntıları görmeye başlarız. Çünkü çocuk evinin yani en güvenli alanının tespit edileceğini ve birilerinin kapısına geleceğini düşünebilir. Bu çok ciddi bir risk.

Başlangıçta salınan korkunun üzerine bir de art niyetli bir kişi ‘Sakın söylediklerimden çıkma, tüm dediklerimi yapacaksın yoksa kapına gelirim’ derse çocuk buradan çıkamaz. Çocuklar tehdidi ciddiye alır, komutlarını uygulamaya başlar. Biz daha önce bunu Mavi Balina gibi oyunlarda da gördük. Kendine zarar veren çocuklara tanık olduk. Çocuklar korkup söyleneni yaptılar. Aynı şey bu uygulama için de geçerli.

TRAVMALAR BAŞLIYOR

Diğer büyük risk, çocuğun çok fazla cinsel içerikli mesaja maruz kalması. Bu durum yetişkinliğe uzanan vadede güven eksikliği gibi çok büyük olumsuz etkiler yaratır. Böyle anlarda ebeveynin kızmadan iyi anlaması ve uzman desteği alması gerekiyor. Küçümsenmeyecek kadar ciddi bir durum.”

“AİLELER TAKİP PROGRAMI KULLANMALI”

Bilişim Uzmanı Osman Demircan da, uygulamanın tehlikeli yapısını ve çocukları korumak için yapılması gereken teknik detayları şöyle anlattı:

“Binlerce yapay zekâ destekli sohbet botuna benzese de durum aslında hiç de göründüğü gibi değil. Üyelik için 17 yaşından büyük olmak gerektiği yazıyor. Fakat herkes istediği bilgiyi yazabiliyor. İçeride cok küçük yaşlarda çocuklar ve çok büyük yaşlarda potansiyel pedofiller mevcut. Ücretsiz olması da çocukların bu uygulamayı rahatça kurmalarını sağlıyor.

Telefonlarda mağaza yönetimlerinde ebeveyn kontrolleri mutlaka aileler tarafından aktif hale getirilmeli ve programların kullanım amaçları ayrıca incelenmeli. Uygulama mağazaları indirilenin sadece yazılımsal olarak güvenli olduğunu bize söyler. Kurulan yazılımın ne amaçla kullanıldığı, nelere hizmet ettiği gibi konularla ilgilenmez. Bu ailelerin ilgilenmesi gereken bir durumdur. Aileler takip programı kullanmalı.”