Teknoloji

Yapay zekanın babası uyardı... Gerçeğinden ayırt edilemiyor, önlem almalıyız!

Yapay zekanın vaftiz babası olarak bilinen Yoshua Bengio'nun da aralarında bulunduğu 400 kişi deepfake videolarının oluşturulmasına yönelik gerekli önlemlerin alınması için imza kampanyasına katıldı.

Yapay zekanın babası uyardı... Gerçeğinden ayırt edilemiyor, önlem almalıyız!
21-02-2024 15:58

Akıl ÖZETİ| almaz yöntem... Tam 25 milyon dolar çaldırdı!

GALERİNİN DEVAMI <p>Hong Kong'da dolandırıcılar deepfake kullanarak 25 milyon dolar çaldılar. Bir şirketin finans müdürünün sahte görüntüsünü hazırlayan hırsızlar, kandırdıkları <a href=şirket çalışanının hesaplarına para göndermesini sağladılar.

"><p>İnsanların yüzlerini, mimiklerini ve seslerini taklit ederek dijital sahte yüzler oluşturmaya yarayan deepfake teknolojisi, dolandırıcılar tarafından yaygın bir şekilde kullanılır hale geldi. Bunun son örneği de Hong Kong'ta yaşandı.</p><p><span data-style=25 MİLYON DOLAR ÇALDIRDI

Hong Kong'da dolandırıcılar deepfake teknolojisini kullanarak bir şirketten tam 25 milyon dolar çaldı. Polis hırsızların şirketin CFO'sunu (finans müdürü) taklit ettikleri ortaya çıktı.

"><p>Hong Kong'da bulunan bir şirketteki görevli, şirketin İngiltere'deki merkezinde bulunan finans müdüründen bir mail aldı.</p><p> </p><p><strong>Mailde belirtilen hesaba 25 milyon dolar aktarılması gerektiği yazılıyordu.</strong></p><p>Şirket çalışanı bu e-postadan şüphelendi ve finans müdüründen görüşme talep etti. Oluşturulan video konferansa finans müdürü ve iş arkadaşları katılınca parayı göndermesi istenen görevlinin tüm şüpheleri ortadan kalktı ve istenilen işlemi gerçekleştirdi.</p><p><span data-style=VİDEODAKİ HERKES SAHTE ÇIKTI

Ancak daha sonra çalışanın genel merkezle iletişime geçmesiyle bunun bir dolandırıcılık olduğu anlaşıldı. Kötü niyetli kişiler video konferans için dijital ortamda çalışanın müdürü ile iş arkadaşlarının yüzünü ve sesini taklit etmişlerdi.

"><p>Hong Kong <a href=polis merkezinden kıdemli memur Baron Chan Shun-ching "Video konferansta herkesin sahte olduğu ortaya çıktı" dedi.

"><p>Hong Kong polisi olayla <a href=ilgili yapılan operasyonda 6 kişinin tutuklanıdğını açıkladı. Yapılan açıklamaya göre gözaltına alınan kişilerin evlerinde yapılan aramalarda çalıntı kimlik kartları ele geçirildi.

"><p>Polis bu kimlik kartları kullanılarak deepfake yüzler oluşturulduğu ve bu kimlik kartlarıyla kredi kartı başvuruları yapıldığı ifade edildi. </p><p><span data-style=TAYLOR SWIFT DE DEEPFAKE KURBANI

Deepfake ile oluşturulan videolar birçok kişiye zarar veriyor.

"><p>Geçtiğimiz ay ünlü ABD'li pop yıldızı Taylor Swift'in deepfake teknolojisi ile oluşturulan müstehçen görüntüleri yayınlanmıştı.</p><p> </p><p>Bu sahte video internetten kaldırılmadan önce on milyonlarca kişi tarafından tıklanmıştı. </p><p><strong>KAYNAK: HÜRRİYET | HABER7</strong></p><p><strong>AYRICA GÖZ ATIN:</strong></p><p> </p><p><span data-style=BIRI BİZİ GÖZETLİYOR... EVİNİZDEKİ 11 CASUS İLE TANIŞIN!

">

Aralarında teknolojinin öncülerinden Yoshua Bengio'nun da bulunduğu yapay zeka uzmanları ve sektör yöneticileri, topluma yönelik potansiyel riskleri gerekçe göstererek deepfake'lerin oluşturulmasına ilişkin daha fazla düzenleme yapılması çağrısında bulunan açık bir mektuba imza attı.

"Günümüzde deepfake'ler genellikle cinsel imgeler, dolandırıcılık ya da siyasi dezenformasyon içeriyor. UC Berkeley'de yapay zeka araştırmacısı olan Andrew Critch tarafından bir araya getirilen mektupta, yapay zeka hızla ilerlediğinden ve deepfake'lerin oluşturulmasını çok daha kolay hale getirdiğinden, güvenlik önlemlerine ihtiyaç duyulduğu belirtiliyor.

DEEPFAKE VİDEOLARI GERÇEĞİNDEN AYIRT EDİLEMEYECEK NOKTAYA GELDİ

Deepfake'ler yapay zeka algoritmaları tarafından oluşturulan gerçekçi ancak uydurma görüntüler, sesler ve videolardır ve teknolojideki son gelişmeler bunları insan tarafından oluşturulan içerikten giderek daha fazla ayırt edilemez hale getirmiştir.

"Deepfake Tedarik Zincirini Bozmak" başlıklı mektup, deepfake çocuk ****grafisinin tamamen suç sayılması, zararlı deepfake'leri bilerek oluşturan veya yayılmasını kolaylaştıran herhangi bir kişi için cezai yaptırımlar ve yapay zeka şirketlerinin ürünlerinin zararlı deepfake'ler oluşturmasını engellemelerini gerektirmek de dahil olmak üzere deepfake'lerin nasıl düzenleneceğine dair önerilerde bulunuyor.

400'DEN FAZLA KİŞİ AÇIK MEKTUBU İMZALADI

Çarşamba sabahı itibariyle, akademi, eğlence ve siyaset dahil olmak üzere çeşitli sektörlerden 400'den fazla kişi mektubu imzaladı.

İmzacılar arasında Harvard psikoloji profesörü Steven Pinker, Algoritmik Adalet Birliği'nin kurucusu Joy Buolamwini, iki eski Estonya cumhurbaşkanı, Google araştırmacıları, DeepMind ve OpenAI'den bir araştırmacı yer aldı.

Yapay zeka sistemlerinin topluma zarar vermemesini sağlamak, Microsoft destekli OpenAI'nin 2022'nin sonlarında ChatGPT'yi tanıtmasından bu yana düzenleyiciler için bir öncelik haline geldi ve bu sistem kullanıcıları insan benzeri sohbetlere dahil ederek ve diğer görevleri yerine getirerek şaşırttı.

Geçen yıl Elon Musk tarafından imzalanan ve OpenAI'nin GPT-4 yapay zeka modelinden daha güçlü sistemlerin geliştirilmesine altı ay ara verilmesi çağrısında bulunan bir mektup başta olmak üzere, önde gelen kişilerden yapay zeka riskleri konusunda çok sayıda uyarı geldi.


Editor : Şerif SENCER
SİZİN DÜŞÜNCELERİNİZ?
TÜRKİYE GÜNDEMİ
BUNLAR DA İLGİNİZİ ÇEKEBİLİR
ÇOK OKUNAN HABERLER