Kökleri yapay zekaya (AI) dayanan projeler, finanstan sağlığa çeşitli sektörlerde karar verme süreçlerine yardımcı olarak hızla modern teknolojik paradigmanın ayrılmaz bir parçası haline geliyor. Ancak, önemli ilerlemeye rağmen, yapay zeka sistemlerinin kusurları da yok değil. Yapay zekanın bugün karşılaştığı en kritik sorunlardan biri, makine öğrenimi modellerini eğitirken çarpık sonuçlara yol açan belirli bir bilgi kümesinde sistemik hataların varlığına atıfta bulunan veri önyargılarıdır.
AI sistemleri büyük ölçüde verilere dayandığından; Her türlü çarpık bilgi sistem içinde önyargıya yol açabileceğinden, girdi verilerinin kalitesi son derece önemlidir. Bu, toplumda ayrımcılığı ve eşitsizliği daha da sürdürebilir. Bu nedenle, verilerin bütünlüğünün ve nesnelliğinin sağlanması esastır.
Örneğin, bir son makale AI tarafından oluşturulan görüntülerin, özellikle de Amerika’dan etkilenen kaynakların baskın olduğu veri kümelerinden oluşturulanların, yüz ifadelerinin kültürel bağlamını nasıl yanlış temsil edebileceğini ve homojenleştirebileceğini araştırıyor. Çeşitli tarihi dönemlerden, hepsi aynı Amerikan tarzı gülümsemeye sahip birkaç asker veya savaşçı örneğinden alıntı yapıyor.
Dahası, yaygın önyargı, yalnızca insan ifadesinin çeşitliliğini ve nüanslarını yakalamakta başarısız olmakla kalmaz, aynı zamanda hayati kültürel geçmişleri ve anlamları silme riskini de taşır ve böylece küresel ruh sağlığını, esenliğini ve insan deneyimlerinin zenginliğini potansiyel olarak etkiler. Bu tür taraflılığı azaltmak için, çeşitli ve temsili veri kümelerini yapay zeka eğitim süreçlerine dahil etmek çok önemlidir.
AI sistemlerinde önyargılı verilere çeşitli faktörler katkıda bulunur. Birincisi, numunelerin hedef popülasyonu temsil etmemesi nedeniyle toplama sürecinin kendisi kusurlu olabilir. Bu, belirli grupların eksik veya fazla temsil edilmesine yol açabilir. İkincisi, tarihsel önyargılar eğitim verilerine sızabilir ve bu da mevcut toplumsal önyargıları devam ettirebilir. Örneğin, önyargılı tarihsel verilerle eğitilen AI sistemleri, cinsiyet veya ırk klişelerini güçlendirmeye devam edebilir.
Son olarak, etiketleyenler bilinçsiz önyargılar barındırabileceğinden, veri etiketleme süreci sırasında yanlışlıkla insan önyargıları ortaya çıkabilir. AI modellerinde kullanılan özelliklerin veya değişkenlerin seçimi, bazı özellikler belirli gruplarla daha fazla ilişkili olabileceğinden, haksız muameleye neden olabileceğinden, yanlı sonuçlara neden olabilir. Bu sorunları hafifletmek için araştırmacıların ve uygulayıcıların potansiyel çarpık nesnellik kaynaklarının farkında olmaları ve bunları ortadan kaldırmak için aktif olarak çalışmaları gerekir.
Blockchain tarafsız yapay zekayı mümkün kılabilir mi?
Blockchain teknolojisi, AI sistemlerini tarafsız tutmanın belirli yönlerinde yardımcı olabilirken, önyargıları tamamen ortadan kaldırmak için hiçbir şekilde her derde deva değildir. Makine öğrenimi modelleri gibi yapay zeka sistemleri, üzerinde eğitildikleri verilere dayalı olarak belirli ayrımcı eğilimler geliştirebilir. Ek olarak, eğitim verileri çeşitli ön düzenlemeler içeriyorsa, sistem muhtemelen bunları öğrenecek ve çıktılarında yeniden üretecektir.
Bununla birlikte, blockchain teknolojisi yapay zeka önyargılarının ele alınmasına kendi benzersiz yollarıyla katkıda bulunabilir. Örneğin, veri kaynağını ve şeffaflığı sağlamaya yardımcı olabilir. Merkezi olmayan sistemler, yapay zeka sistemlerini eğitmek için kullanılan verilerin kaynağını izleyerek bilgi toplama ve toplama sürecinde şeffaflık sağlayabilir. Bu, paydaşların potansiyel önyargı kaynaklarını belirlemesine ve bunları ele almasına yardımcı olabilir.
Son: Neden bir blockchain oyun loncasına katılmalısınız? Eğlenin, kâr edin ve daha iyi oyunlar yaratın
Benzer şekilde, blokajlar, birden çok taraf arasında güvenli ve verimli veri paylaşımını kolaylaştırarak daha çeşitli ve temsili veri kümelerinin geliştirilmesini sağlayabilir.
Ayrıca, eğitim sürecini merkezsizleştirerek, blok zinciri birden fazla tarafın kendi bilgilerine ve uzmanlıklarına katkıda bulunmasını sağlayabilir ve bu da herhangi bir önyargılı bakış açısının etkisini azaltmaya yardımcı olabilir.
Nesnel tarafsızlığın sürdürülmesi, veri toplama, model eğitimi ve değerlendirme dahil olmak üzere yapay zeka geliştirmenin çeşitli aşamalarına dikkat edilmesini gerektirir. Ek olarak, yapay zeka sistemlerinin sürekli olarak izlenmesi ve güncellenmesi, zaman içinde ortaya çıkabilecek potansiyel önyargıları ele almak için çok önemlidir.
Blockchain teknolojisinin yapay zeka sistemlerini tamamen tarafsız hale getirip getiremeyeceği konusunda daha derin bir anlayış kazanmak için Cointelegraph, yapay zeka ile blockchain’i birleştiren bir proje olan SingularityNET’in kurucusu ve CEO’su Ben Goertzel’e ulaştı.
Ona göre, “tam nesnellik” kavramı, sonlu veri kümelerini analiz eden sonlu zeka sistemleri bağlamında pek yardımcı olmuyor.
“Blockchain ve Web3 sistemlerinin sunabileceği şey, tam bir tarafsızlık veya önyargı eksikliği değil, kullanıcıların bir AI sisteminin hangi önyargıya sahip olduğunu açıkça görebilmesi için şeffaflıktır. Ayrıca, bir kullanıcı topluluğunun tercih ettiği önyargıya sahip olması ve ne tür bir önyargıyı yansıttığını şeffaf bir şekilde görmesi için bir yapay zeka modelini değiştirebilmesi için açık yapılandırılabilirlik sunuyor” dedi.
Ayrıca, yapay zeka araştırması alanında “önyargı” nın kirli bir kelime olmadığını belirtti. Bunun yerine, verilerde belirli kalıpları arayan bir AI sisteminin yönünün bir göstergesidir. Bununla birlikte Goertzel, merkezi kuruluşlar tarafından farkında olmayan – yine de onlar tarafından yönlendirilen ve etkilenen – kullanıcılara dayatılan opak çarpıklıkların, insanların dikkatli olması gereken bir şey olduğunu kabul etti. dedi ki:
“ChatGPT gibi en popüler AI algoritmaları, şeffaflık ve kendi önyargılarının ifşası açısından zayıf. Bu nedenle, AI önyargı sorununu düzgün bir şekilde ele almak için gerekenlerin bir kısmı, merkezi olmayan katılımcı ağlar ve açık modeller, yalnızca açık kaynaklı değil, aynı zamanda eğitilmiş açık ağırlık matrisleri, açık içeriğe sahip uyarlanmış modellerdir.
Benzer şekilde, yapay zeka odaklı bir blockchain ağı olan Tenet’in operasyon sorumlusu Dan Peterson, Cointelegraph’a tarafsızlığı ölçmenin zor olduğunu ve bir veri kümesinin tarafsızlığı kaybettiği zamanlar için ölçülebilir bir çizgi olmadığı için bazı yapay zeka ölçümlerinin tarafsız olamayacağını söyledi. Ona göre, nihayetinde mühendisin çizgiyi çizdiği perspektife indirgenir ve bu çizgi kişiden kişiye değişebilir.
“Herhangi bir şeyin gerçekten ‘tarafsız’ olması kavramı, tarihsel olarak üstesinden gelinmesi zor bir zorluk olmuştur. Üretken yapay zeka sistemlerine beslenen herhangi bir veri setindeki mutlak gerçeği tespit etmek zor olsa da, yapabileceğimiz şey, blockchain ve Web3 teknolojisinin kullanımı yoluyla bize daha hazır hale getirilen araçlardan yararlanmaktır” dedi.
Peterson, dağıtılmış sistemler, doğrulanabilirlik ve hatta sosyal kanıtlama etrafında inşa edilen tekniklerin, mutlak gerçeğe “yaklaşan” yapay zeka sistemleri tasarlamamıza yardımcı olabileceğini belirtti. “Ancak henüz anahtar teslim bir çözüm değil; Gelişen bu teknolojiler, yarının sistemlerini inşa etmeye devam ederken iğneyi kırılma hızında ilerletmemize yardımcı oluyor” dedi.
Yapay zeka odaklı bir geleceğe bakmak
Ölçeklenebilirlik, blockchain teknolojisi için önemli bir endişe olmaya devam ediyor. Kullanıcı ve işlem sayısı arttıkça, yapay zeka sistemleri tarafından üretilen ve işlenen büyük miktarda veriyi işlemek için blockchain çözümlerinin yeteneğini sınırlayabilir. Dahası, blockchain tabanlı çözümlerin benimsenmesi ve mevcut yapay zekalara entegrasyonu bile önemli zorluklar doğuruyor.
Son: Avrupa’da Kripto Para: Economist, MiCA’yı ve stablecoin’lerin geleceğini inceliyor
İlk olarak, hem AI hem de blockchain teknolojilerinde, her iki paradigmayı etkin bir şekilde birleştiren çözümlerin geliştirilmesini ve uygulanmasını engelleyebilecek bir anlayış ve uzmanlık eksikliği var. İkincisi, özellikle tarafsız yapay zeka veri iletiminin sağlanması söz konusu olduğunda, paydaşları blockchain platformlarının faydalarına ikna etmek, en azından başlangıçta zor olabilir.
Bu zorluklara rağmen, hızla gelişen AI ortamını dengelemek söz konusu olduğunda blockchain teknolojisi muazzam bir potansiyele sahiptir. Blockchain’in ademi merkeziyet, şeffaflık ve değişmezlik gibi temel özelliklerinden yararlanarak, veri toplama, yönetim ve etiketlemedeki önyargıları azaltmak ve sonuç olarak daha adil yapay zeka sistemlerine yol açmak mümkündür. Bu nedenle, geleceğin buradan nasıl devam ettiğini görmek ilginç olacak.