Dolandırıcılar Artık Yapay Zekayı Herkesin Sesini Taklit Etmek İçin Kullanabilir
AI gibi güçlü ve yeni bir teknoloji herhangi bir düzenleme olmadan topluma sunulduğunda, aracı kendi çıkarları için kullanan insanlar olacaktır: Ve şaşırtıcı olmayan bir şekilde, AI dolandırıcıların işlerini çok daha kolay ve inandırıcı hale getiriyor. hakkında yazdık “sanal adam kaçırma” dolandırıcılığı Dolandırıcılar, dolandırıcılar, bu planla, zor durumdaki çocukların genel ses kayıtlarını kullanır ve hedeflerin diğer taraftaki kendi çocukları olduğunu düşünmelerini umarak aileleri arar. Ama şimdi, dolandırıcılar aslında çocuğunuzun gerçek AI ses üreteçlerinin yardımıyla ses.
AI ses üreteci nedir?
Bu nasıl ses moduİspanyol bir ses efekti yazılım şirketi olan AI ses üreteci teknolojisini şöyle tanımlıyor:
AI sesi, yapay zeka ve derin öğrenme kullanarak insan konuşmasını taklit eden sentetik bir sestir. Bu sesler, Voicemod Text to Song’da olduğu gibi metni konuşmaya veya AI ses koleksiyonumuzun çalışma şekli olan konuşmayı konuşmaya dönüştürerek kullanılabilir.
Teknoloji artık neleri geliştirmek için kullanılıyor? Federal Ticaret Komisyonu, “sahte dolandırıcılık” olarak kategorize ediyor dolandırıcıların, genellikle yaşlı insanlar olan kurbanların paralarını çalmak için bir aile üyesi veya arkadaş gibi davrandığı yer. 2022’de, telefonda 5.100’den fazla sahte dolandırıcılık raporu geldi ve toplamda 11 milyon dolar zarara yol açtı. Washington Post’a göre.
Voicemod gibi yapay zeka kullanarak çok az gözetimle ses üretmeye hazır hizmetler var. Microsoft’un VALL-E metinden konuşmaya yapay zeka modeli, yalnızca üç saniyelik sesle herkesin sesini simüle edebildiğini iddia ediyor. Ars Technica tarafından bildirildiği gibi.
Berkeley’deki California Üniversitesi’nde dijital adli tıp profesörü olan Hany Farid, “Daha sonra, benzer bir genel etki yaratmak için bir kişinin sesinin perdesini, tonunu ve tek tek seslerini yeniden oluşturabilir.” Washington Post’a söyledi. “YouTube, podcast’ler, reklamlar, TikTok, Instagram veya Facebook videoları gibi yerlerden alınmış kısa bir ses örneği gerektiriyor.”
AI ses üreteci dolandırıcılığı nasıl çalışır?
Dolandırıcılar, bir akrabayı çocuğun fidye için tutulduğunu düşünmesi için kandırmak üzere birinin, genellikle küçük bir çocuğun sesini taklit etmek için AI ses üreteci teknolojisini kullanır. Dolandırıcı, çocuğu sağ salim salıvermek karşılığında bir miktar para talep eder.
Buradan da görebileceğiniz gibi NBC Haber raporu, sosyal medyadan bir kişinin sesinden örnekler almak ve bunu söylemek istediğiniz herhangi bir şeyi oluşturmak için kullanmak kolaydır. Muhabirin iş arkadaşlarını yapay zeka oluşturucunun aslında kendisi olduğunu düşünmeleri için kandırabilmesi o kadar gerçekçi ki içlerinden biri bazı alışverişler yapması için şirket kartını ona ödünç vermeyi kabul etti.
Dolandırıcılık inanılmaz derecede gerçekçi ve insanlar hazırlıksız yakalanıyor. Aynı teknolojiyi kullanan farklı varyasyonlar da vardır. Kanada’dan bir çift, bir “avukat” tarafından yapılan sahte bir telefon görüşmesinden sonra 21.000 $ (15.449 ABD doları) kaybetti: Dolandırıcı, bir diplomatın oğlunu bir araba kazasında öldürdüğü iddia edildikten sonra çocuklarını temsil ediyormuş gibi davranıyordu ve “yasal masraflar” için paraya ihtiyacı vardı. Aynı Washington Post raporuna göre oğulları “hapisteyken”.
AI ses üreteci dolandırıcılığına düşmemek için ne yapabilirsiniz?
En iyi savunma hattı farkındalıktır. Dolandırıcılıktan haberdarsanız ve nasıl çalıştığını anlarsanız, sizin veya sevdiklerinizden birinin başına gelirse bunu fark etme olasılığınız daha yüksektir.
Böyle bir telefon alırsanız, kaçırıldığı iddia edilen çocuğu veya “kurbanı” hemen aramalı veya görüntülü konuşmalısınız. Fidye parasını teslim etmek için yetkililerle iletişime geçmek veya kredi kartınıza ulaşmak yerine bunu yapmak mantıksız görünse de, onları kendiniz aramak dolandırıcının illüzyonunu paramparça edecektir. Aslında bu bir dolandırıcılıksa, diğer hattaki “kurbanın” normal günlerine gittiğini duyar veya görürsünüz.
Bu çözümler dışında ne yazık ki hedef olmaktan çıkmak için yapabileceğiniz pek bir şey yok. Yapabilecek bir teknoloji var yapay zeka etkinliğini algılama videolarda, resimlerde, seste ve metinde bulunur, ancak bu gibi durumlarda yardımcı olmak için geçerli değildir ve halka açık değildir. Umut, bu sorunu yaratan teknolojinin eninde sonunda kendi kendini yönetmek için bir çözüm yaratacağıdır.
