Yapay Zeka Destekli Dolandırıcılık 101— Nasıl Korunabiliriz?

NOT: Bu bir yapay zekayı nasıl dolandırıcılıkta kullanabilirsiniz yazısı değildir :)

DALL E 3

Yazı İçeriği ;

Giriş

Aile ve arkadaşların sesinin klonlanması

Ses klonlamasına karşı nasıl kendimizi koruyabiliriz?

E-posta ve mesajlaşma yoluyla gelen kişiselleştirilmiş kimlik avı ve spam

Bu tür dolandırıcılıklara karşı nasıl mücadele edebilirsiniz?

“Sahte Siz” kimliği ve kimlik doğrulama dolandırıcılığı

Kimlik sahtekarlığına karşı nasıl mücadele edebiliriz?

Yapay zeka tarafından üretilen deepfake’ler ve şantaj

Yapay zeka tarafından oluşturulan deepfake’lerden nasıl korunacağız?

şeklinde ilerleyecektir.

İster bir blog yazısı özetletin, e-posta taslağı hazırlayın, sosyal medya içeriklerinizi oluşturun, konsept sanat ürünleri yapın, ister savunmasız kişileri sıkıntıda olan bir arkadaşınız veya akrabanızmış gibi göstererek dolandırın :) yapay zeka bize yardımcı olmak için hayatımızda.

Yapay zeka insan zekasının takliti diye kabaca nitelendirdiğimiz için çok yönlü ve iyi-kötü birçok role sahip olabilir. Lakinçok eminimki hiçbirimiz yapay zeka ya da saf zeka tarafından dolandırılmak istemeyiz. Sizlerle yapay zeka dolandırıcılığı noktasında nelere dikkat etmemiz gerektiğini biraz konuşacağız.

Son birkaç yılda yalnızca metinden sese, görüntü ve videoya kadar üretilen medyanın kalitesinde değil, aynı zamanda bu medyanın ne kadar ucuz ve pratik bir şekilde oluşturulabileceğinde de büyük bir rağbet yaşadık. Bir konsept sanatçısının fantastik canavarlar veya uzay gemileri yaratmasına yardımcı olan veya ana dili olmayan birinin iş İngilizcesini geliştirmesine olanak tanıyan aynı tür araç, kötü niyetli amaçlar için de kullanılabilir.

Terminatör’ün kapımızı çalıp bize bir Ponzi şeması satmasını anket doldurma bahanesini beklememeliyiz; bu tür dolandırıcılıklar yıllardır karşılaştığımız aynı ve eski yöntemlerdir, ancak yapay zeka sayesinde daha kolay, ucuz ve ikna edici hale geliyorlar.

Aile ve arkadaşların sesinin klonlanması

Sentetik sesler onlarca yıldır var, ancak teknolojideki son ilerlemeler, birkaç saniyelik ses örneklerinden yeni bir ses üretilmesine olanak tanıyor. Bu, sesi halka açık olan herkesin (örneğin bir haber raporunda, YouTube videosunda veya sosyal medyada) sesinin klonlanmasına karşı savunmasız olduğu anlamına geliyor.

Dolandırıcılar, sevdiklerinin veya arkadaşlarının ikna edici sahte versiyonlarını üretmek için bu teknolojiyi kullanabilirler. Bir ebeveyn, seyahat ederken eşyalarının çalındığını ve birisinin telefonunu kullanmasına izin verdiğini söyleyen, oğluna benzeyen bir sesli mesaj alabilir. Bu tür dolandırıcılıklar daha önce Başkan Biden’ın sesi kullanılarak yapıldı. Suçlular yakalandı, ancak gelecekteki dolandırıcılar daha dikkatli olacaktır.

Ses klonlamasına karşı nasıl kendimizi koruyabiliriz?

Öncelikle hakikaten bu konuda uzman değilseniz sahte bir sesi tespit etmeye çalışmayın. Her geçen gün daha iyi hale geliyorlar ve kalite sorunlarını gizlemenin birçok yolu var.

Bilinmeyen bir numaradan, e-posta adresinden veya hesaptan gelen her şey otomatik olarak şüpheli olarak değerlendirilmelidir. Birisi kendisinin arkadaşınız veya sevdiğiniz biri olduğunu söylerse, normalde yapacağınız şekilde o kişiyle iletişime geçin. Muhtemelen size iyi olduklarını ve bunun bir dolandırıcılık olduğunu söyleyeceklerdir. Dolandırıcılar görmezden gelindiklerinde genellikle takip etmezler, ancak bir aile üyesi yapacaktır.

E-posta ve mesajlaşma yoluyla gelen kişiselleştirilmiş kimlik avı ve spam

Hepimiz ara sıra spam alırız, ancak metin üreten dil modelleri, her bir bireye özel (kişiselleştirilmiş) toplu e-posta göndermeyi mümkün kılıyor. Veri ihlalleri düzenli olarak gerçekleştiğinden :( , kişisel verilerinizin çoğunu bizzat dolandırıcılara açık büfe sunmuş oluyoruz farketmeden.
“Faturanızı görmek için buraya tıklayın!” şeklinde, çok az çaba gerektiren, açıkça korkutucu ekleri olan dolandırıcı e-postalardan birini almak gibi bir şeyi kastediyorum. Sadece biraz bağlamla bile, aniden oldukça inandırıcı hale gelirler ve yakın zamandaki konumlar, satın alımlar ve alışkanlıklar kullanılarak gerçek bir kişi veya gerçek bir sorun gibi görünürler. Birkaç kişisel gerçekle donanmış bir dil modeli, bu e-postaların genel bir taslağını saniyeler içinde binlerce alıcıya özelleştirebilir.

Yani bir zamanlar “Sayın Müşterimiz, faturanız ekte yer almaktadır.” olan metin, “Merhaba Ecehan! Ben Shopier promosyon ekibinden Mine. Yakın zamanda baktığınız bir ürün artık %50 indirimli! Ve indirimi talep etmek için bu bağlantıyı kullanırsanız Antalya’da ki adresinize gönderim ücretsizdir.” gibi bir şeye dönüşüyor. Çok basit bir örnek, ama doğru. Gerçek bir isim, alışveriş geçmişi (bulması kolay), genel konum (aynısı) vb. ile aniden mesajın dolandırıcılığı çok daha az belirgin hale geliyor.

Sonuç olarak, bunlar hala sadece spam. Ancak bu tür özelleştirilmiş spam’ler bir zamanlar yabancı ülkelerdeki içerik çiftliklerinde düşük ücret talep eden kişiler tarafından yapılıyordu. Şimdi ise birçok profesyonel yazardan daha iyi düzyazı becerilerine sahip bir LLM tarafından büyük ölçekte yapılabilir halde.

Bu tür dolandırıcılıklara karşı nasıl mücadele edebilirsiniz?

En iyi silahımız uyanıklıktır. Metin ne kadar iyi olursa olsun, şüpheli ekleri veya bağlantıları açmanızı sağlamaya çalışırlar.

Gönderenin kimliğinden emin değilseniz, hiçbir şeye tıklamayın veya açmayın.

Vahşi doğada insan tarafından yazılmış metinden üretilen metni tespit etmeyi beklemeyelim. Bunu yapabilen çok az kişi var ve başarılı AI modelleri neredeyse yok.

Metin ne kadar iyileştirilmiş olursa olsun, bu tür dolandırıcılıkların temel zorluğu, şüpheli ekleri veya bağlantıları açmamızı sağlamaktır. Her zaman olduğu gibi, gönderenin gerçekliğinden ve kimliğinden %100 emin olmadığınız sürece hiçbir şeye tıklamayın veya açmayın. Biraz bile emin değilseniz — ve bu geliştirilmesi gereken iyi bir pratik— tıklamayın ve ikinci bir çift göz ve kontrol olması için iletebileceğiniz bilgili biri varsa lütfen iletin.

“Sahte Siz” kimliği ve kimlik doğrulama dolandırıcılığı

Son birkaç yılda yaşanan veri ihlalleri nedeniyle (Sağolsun yurtdışında Equifax, Türkiyede yemeksepeti ve dahası sayesinde), neredeyse hepimizin kişisel verilerinin bir kısmı karanlık ağda dolaşıyor. İyi çevrimiçi güvenlik uygulamalarını takip ediyorsanız, parolalarınızı değiştirdiğiniz, çok faktörlü kimlik doğrulamayı etkinleştirdiğiniz gibi önlemlerle tehlikenin büyük bir kısmını azaltabilirsiniz. Ancak üretken yapay zeka bu alanda yeni ve ciddi bir tehdit oluşturabilir.

Bir kişi hakkında çevrimiçi olarak bu kadar çok veri bulunması ve pek çok kişi için seslerinden bir veya iki klip bile mevcutken, hedef kişinin sesini taklit eden ve kimliği doğrulamak için kullanılan bilgilerin çoğuna erişimi olan bir yapay zeka kişiliği oluşturmak giderek daha kolay hale geliyor.

Bunu şöyle düşünelim: Oturum açma sorunları yaşıyorsanız, kimlik doğrulama uygulamanızı doğru şekilde yapılandıramıyorsanız veya telefonunuzu kaybettiyseniz ne yapardınız? Muhtemelen müşteri hizmetlerini ararsınız ve doğum tarihiniz, telefon numaranız veya Sosyal Güvenlik -T.C Kimlik numaranız doğum tarihiniz gibi bazı basit bilgilerle kimliğinizi doğrularlar. “Selfie çek” gibi daha gelişmiş yöntemler bile giderek daha kolay yanıltılabilir hale de geliyor.

Müşteri hizmetleri temsilcisi — ki bu kişi de yapay zeka olabilir — bu sahte sizi tanıyabilir ve size ait tüm ayrıcalıkları ona verebilir. Bu pozisyondan yapabilecekleri çok çeşitlidir, ancak hangisi iyi olabilir?

Diyelim ki dolandırıcı, sesinizi taklit eden bir yapay zeka kullanarak bankanızın müşteri hizmetlerini aradı. Müşteri hizmetleri temsilcisi, dolandırıcıyı sizmiş gibi kabul etti ve dolandırıcıya, hesabınıza erişim sağladı. Dolandırıcı bu erişimi kullanarak:

1. Banka hesabınızdan para çekebilir.
2. Yeni bir kredi kartı başvurusu yapabilir ve bu kartı kendi adresine gönderebilir.
3. Hesap bilgilerinizle sizin adınıza online alışveriş yapabilir.
4. Hesap ayarlarınızı değiştirerek, gelecekteki işlemler için kendi iletişim bilgilerini ekleyebilir ve sizden habersiz işlemler yapabilir.

Bu tür bir erişim, dolandırıcıya sizin finansal kaynaklarınız üzerinde tam kontrol sağlarken, sizi maddi ve manevi zarara uğratır.

Bu listedeki diğer örneklerde olduğu gibi, tehlike sahte kimliğin ne kadar gerçekçi olduğunda değil, dolandırıcıların bu tür saldırıları yaygın ve tekrar tekrar yapmasının kolay olmasında yatıyor.

Kısa bir süre önce, bu tür kimliğe bürünme saldırıları pahalı ve zaman alıcıydı ve bu nedenle zengin insanlar ve CEO’lar gibi yüksek değerli hedeflerle sınırlıydı. Günümüzde, minimal denetimle binlerce kimliğe bürünen ajanlar oluşturan bir iş akışı oluşturabilir ve bu ajanlar, bir kişinin bilinen tüm hesaplarındaki müşteri hizmetleri numaralarını otonom olarak arayabilir veya yeni hesaplar oluşturabilir. Saldırının maliyetini haklı çıkarmak için yalnızca birkaçının başarılı olması yeterlidir.

Kimlik sahtekarlığına karşı nasıl mücadele edebiliriz?

Yapay zekaların dolandırıcıların çabalarını artırmasından önce de olduğu gibi, Siber Güvenlik 101 — Dijital Güvenlik bilgisi sahibi olmak en iyi seçeneğimizdir. Verilerimiz zaten dışarıda — internette bulunuyor; geri dönüşü yok. Ancak hesaplarımızın en bariz saldırılara karşı yeterince korunduğundan emin olabiliriz.

Çok faktörlü kimlik doğrulama, burada herkesin atabileceği en önemli adımdır. Herhangi bir ciddi hesap etkinliği doğrudan telefonumuza gelir ve şüpheli girişler veya parola değişikliği girişimleri e-posta ile bildirilir. Bu uyarıları görmezden gelmemeli veya spam olarak işaretlememeliyiz, özellikle de çok fazla alıyorsak.

Yapay zeka tarafından üretilen deepfake’ler ve şantaj

Yapay zeka dolandırıcılığının belki de en korkutucu biçimi, bizim veya sevdiklerimizin deepfake görüntülerini kullanarak şantaj yapma olasılığıdır. Bu ürkütücü ve geleceğe yönelik tehdidi hızlı gelişen açık görüntü modelleri dünyasına borçluyuz. Bazı kişiler, sadece çıplak vücutlar oluşturmakla kalmayıp, bunları herhangi bir yüze eklemek için iş akışları oluşturmuşlardır. Bunun nasıl kullanıldığını ayrıntılı olarak açıklamama gerek yok.

Ancak beklenmedik bir sonuç olarak, yaygın olarak “intikam pornosu” olarak bilinen ancak daha doğru bir şekilde rızasız olarak mahrem görüntülerin dağıtımı olarak tanımlanan dolandırıcılığın bir uzantısı ortaya çıkmıştır (ancak “deepfake” gibi, orijinal terimi değiştirmek zor olabilir). Bir kişinin özel görüntüleri ya hackleme yoluyla ya da intikam peşindeki eski bir sevgili tarafından yayıldığında, üçüncü bir kişi bu görüntüleri geniş çapta yayımlamakla tehdit ederek fidye talep edebilir.

Yapay zeka bu dolandırıcılığı, gerçek bir mahrem görüntüye ihtiyaç duymadan gerçekleştirilebilir hale getirerek geliştirir. Herhangi birinin yüzü, yapay zeka tarafından oluşturulmuş bir vücuda eklenebilir ve sonuçlar her zaman ikna edici olmasa da, bulanıklaştırılmış, düşük çözünürlüklü veya kısmen gizlenmişse bizi veya başkalarını kandırmak için yeterli olabilir. Ve bu, birini bu görüntüleri gizli tutmak için ödeme yapmaya korkutmak için yeterlidir — ancak, çoğu şantaj dolandırıcılığında olduğu gibi, ilk ödeme muhtemelen son ödeme olmayacaktır.

Yapay zeka tarafından oluşturulan deepfake’lerden nasıl korunacağız?

Ne yazık ki, ilerlediğimiz dünya, neredeyse herkesin sahte çıplak görüntülerinin talep üzerine erişilebilir olacağı bir dünya. Bu durum korkutucu, garip ve rahatsız edici, ancak maalesef geri dönüşü korkutucu regülasyonlarla caydırıcı etkisi olsa da yok.

Bu durumdan kimse memnun değil, kötü niyetli kişiler hariç. Ancak potansiyel mağdurlar için birkaç olumlu nokta var. Bu görüntü modelleri bazı açılardan gerçekçi vücutlar üretebilir, ancak diğer üretken yapay zeka modelleri gibi, sadece eğitim aldıkları veriler kadar bilgi sahibidirler. Dolayısıyla, sahte görüntülerde ayırt edici işaretler eksik olacak ve başka şekillerde bariz hatalar içerecektir.

Tehdit tamamen ortadan kalkmayacak olsa da, mağdurların resimleri barındıran sitelere yasal olarak başvurup resimleri kaldırmalarını veya dolandırıcıları engellemelerini talep etme imkanı giderek artıyor. Sorun büyüdükçe, buna karşı mücadele edebilecek yasal ve özel yöntemler de artacaktır.

Böyle bir durumla karşılaşırsanız lütfen çok hızlı bir şekilde polise bildirin. Bu sadece bir dolandırıcılık değil, aynı zamanda bir tacizdir ve polislerin derin internet — deep/dark web dedektifliği yapmalarını bekleyemeyecek olsanız da, bu tür vakaların çözüme kavuşabilir olma ihtimali vardır ve kayda alınır veya dolandırıcılar, internet servis sağlayıcısı veya forum barındırıcısına gönderilen taleplerden korkabilirler. Sizlerin de yaşadığı veya farkettiği durumlar ve senaryolar var mı? Üzerine konuşalım :)

Sonraki yazılarda görüşmek üzere!

Lütfen bana bu konuda yazmaktan çekinmeyin, her zaman bir mesaj uzağınızda olacağım.

Beni Linkedin ve Twitter hesaplarımdan da takip edebilirsiniz!🐞