Yapay zekanın toplum üzerindeki etkileri raporu – Yapay zekanın kötüye kullanımı alarm veriyor: Olay sayısı 26 kat arttı

Dünyanın gündemindeki teknolojik gelişim yapay zeka üzerine yatırımlar ve tartışmalar sürerken araştırmalarla hem insanlar hem iş dünyası hem de sektörler üzerindeki etkileri de gözelmlenmeye devam ediyor. Stanford Üniversitesi Yapay Zeka Laboratuvarı tarafından gerçekleştirilen 2024 yapay zeka Index Raporu da bu alanda birçok veriye ışık tutan sonuçlar ortaya çıkarttı.Bugüne kadarki en kapsamlı sürüm olarak gösterilen 2024 Endeksi yapay zekanın (AI) toplum üzerindeki etkisinin hiç olmadığı kadar belirgin olduğu önemli bir anda geliyor. Bu yıl, kapsamımızı yapay zekanın teknik ilerlemeleri, teknolojiye olan kamu algıları ve gelişiminin çevrelediği jeopolitik dinamikler gibi temel eğilimleri daha geniş bir şekilde kapsayacak şekilde genişlettik. Daha öncekinden daha fazla orijinal veri içeren bu sürüm, AI eğitim maliyetleri üzerine yeni tahminler, sorumlu AI manzarasının detaylı analizleri ve bilim ve tıpta AI’nin etkisine adanmış tamamen yeni bir bölüm sunuyor. AI HER KONUDA İNSANIN ÖNÜNDE DEĞİL Farklı başlıklar altında yapay zekanın gelişimi ve etkilerini değerlendiren araştırmanın öne çıkan önemli sonuçlarından bir tanesi ‘AI, insanın yerini alabilir mi?’ sorusuna da yanıt veriyor. Araştırmadan çıkan bilgilere göre Yapay zeka bazı görevlerde insanları geçiyor, ancak hepsinde değil. Yapay zeka, görüntü sınıflandırma, görsel akıl yürütme ve İngilizce anlama gibi bazı alanlarda insan performansını aşmıştır. Ancak, yarışma düzeyi matematik, görsel sağduyu akıl yürütme ve planlama gibi daha karmaşık görevlerde geride kaldığı gözlemleniyor. KÖTÜYE KULLANIM GİDEREK ARTIYOR Yapay zeka teknolojisinin hızla gelişimi, hayatımızın birçok alanında devrim yaratırken, aynı zamanda etik olmayan kullanımlar konusunda da endişeleri artırıyor. AIAAIC (Yapay Zeka Olayları ve Etik Olmayan Kullanım İzleme Merkezi) tarafından yayınlanan son rapora göre, yapay zekanın kötüye kullanımı ile ilgili olayların sayısı son on yılda 26 kat artış gösterdi. Bu artış, özellikle kişisel verilerin korunması, sahte içerik üretimi ve otomatik karar alma sistemlerinin yanlış uygulanması gibi konularda kaygıları beraberinde getiriyor. Uzmanlar, yapay zekanın potansiyelini tam olarak gerçekleştirebilmenin, bu teknolojinin sorumlu bir şekilde kullanılmasına bağlı olduğunu vurguluyorlar. Raporda, yapay zekanın kötüye kullanımının, toplumsal güveni sarsabileceği ve teknolojik ilerlemenin faydalarını gölgeleyebileceği konusunda uyarılarda bulunuluyor. Ayrıca, yapay zekanın etik kullanımını sağlamak için uluslararası düzeyde standartlar ve düzenlemelerin geliştirilmesinin önemi üzerinde duruluyor. Yapay zeka topluluğu, bu tür olayların önüne geçmek için daha fazla şeffaflık, denetim ve eğitim çağrısında bulunuyor. AIAAIC’nin veritabanı, bu tür etik olmayan kullanımları izlemek ve farkındalığı artırmak için kritik bir kaynak olarak görülüyor. Yapay zekanın kötüye kullanımı ile ilgili olayların artışı, hem teknoloji geliştiricileri hem de politika yapıcıları için ciddi bir uyarı işareti olarak kabul ediliyor. Bu durum, yapay zekanın etik ve sorumlu kullanımını sağlamak için toplumun her kesiminin iş birliği yapmasının gerekliliğini bir kez daha ön plana çıkarıyor. RAPORDA ÖNE ÇIKAN BAŞLIKLAR ÇOK MODLU YAPAY ZEKA GELİYOR Geleneksel olarak yapay zeka sistemleri kapsam olarak sınırlıydı;1 dil modelleri metin anlamada başarılı olurken görüntü işlemede zorlanıyordu ve tersi de geçerliydi. Ancak, son gelişmeler, Google’ın Gemini ve OpenAI’ın GPT-4 gibi güçlü çok modlu modellerin geliştirilmesine yol açtı. Bu modeller esneklik gösteriyor ve görüntüleri ve metni işleyebiliyor ve bazı durumlarda sesi bile işleyebiliyorlar. DAHA ZOR ÖLÇÜTLER ORTAYA ÇIKIYOR Yapay zeka modelleri, ImageNet, SQuAD ve SuperGLUE gibi kuruluş ölçütlerinde performans doygunluğuna ulaştı, bu da araştırmacıları daha zorlayıcı ölçütler geliştirmeye itti. 2023 yılında, kodlama için SWE-bench, görüntü oluşturma için HEIM, genel akıl yürütme için MMMU, ahlaki akıl yürütme için MoCa, ajan tabanlı davranış için AgentBench ve hayal görme için HaluEval gibi birkaç zorlayıcı yeni ölçüt ortaya çıktı. DAHA İYİ VERİ, DAHA İYİ YAPAY ZEKA SegmentAnything ve Skoltech gibi yeni yapay zeka modelleri, görüntü segmentasyonu ve 3D rekonstrüksiyon gibi görevler için özelleştirilmiş veri üretmek için kullanılıyor. Veri, yapay zeka teknik gelişmeleri için hayati önem taşır. Yapay zekanın daha fazla veri oluşturması mevcut yetenekleri artırır ve özellikle daha zor görevlerde gelecekteki algoritmik gelişmeler için yeni yollar da açıyor İNSAN DEĞERLENDİRMESİ ÖNEM KAZANIYOR Üretken modeller yüksek kaliteli metin, görüntü ve daha fazlasını üretirken, ölçümleme yavaş yavaş ImageNet veya SQuAD gibi bilgisayarla yapılan sıralamalar yerine Chatbot Arena Lider Tablosu gibi insan değerlendirmelerini içerecek şekilde kaymaya başladı. Yapay zeka hakkında kamuoyu hissiyatı, yapay zeka ilerlemesini izlemede giderek daha önemli bir husus haline geliyor. LLM’LER SAYESİNDE ROBOTLAR DAHA ESNEK HALE GELDİ Dil modellemesi ile robotiğin birleşmesi, PaLM-E ve RT-2 gibi daha esnek robotik sistemlerin ortaya çıkmasına neden oldu. Gelişmiş robotik yeteneklerinin ötesinde, bu modeller soru sorabilir, bu da gerçek dünyayla daha etkili bir şekilde etkileşim kurabilen robotlar için önemli bir adımı işaret ediyor. Ajansal yapay zeka üzerine daha fazla teknik araştırma.Belirli ortamlarda otonom olarak çalışabilen yapay zeka ajanları yaratmak, uzun süredir bilgisayar bilimcileri için bir meydan okuma olmuştur. Ancak, ortaya çıkan araştırmalar, otonom yapay zeka ajanlarının performansının geliştiğini gösteriyor. Mevcut ajanlar artık Minecraft gibi karmaşık oyunları ustalıkla oynayabilir ve çevrimiçi alışveriş ve araştırma yardımı gibi gerçek dünya görevlerini etkili bir şekilde ele alabilir. Kapalı LLM’ler açık olanları önemli ölçüde geride bırakıyor.Seçilen 10 yapay zeka ölçütünde, kapalı modeller açık olanları geride bıraktı ve medyan performans avantajı %24.2 idi. Kapalı ve açık modellerin performansındaki farklılıklar, yapay zeka politikası tartışmaları için önemli sonuçlar taşıyor.