Palantir’in tartışmalı manifestosu üzerinden yükselen teknofaşizm, gözetim teknolojileri ve yeni otoriter siyaset biçimleri; küresel kapitalizmin krizi ve hak-özgürlükler mücadelesi bağlamında ele almaya devam ediyoruz.

Dünya çapında toplumsal gözetim, bürokratik kayıtlar ve savaşlarda hedef tespiti gibi alanlardaki faaliyetleriyle gündeme gelen bu Amerikan teknoloji şirketi Palantir Technologies, tüm insanlığa seslenen 22 maddelik bir manifesto yayımladı.

Biz de Palantir Technologies’in yayımladığı manifesto üzerine konuşmaya başlıyor; ırkçı ve faşizan bir dil taşıdığı eleştirileri yapılan bu metni tüm yönleriyle ele alıyoruz.

İnsan zihninin konfor seven ve narsisitik eğilimleri yapay zekâ makinesine olumsuz anlamda da rehberlik ediyor olabilir mi?

Acaba yapay zekâ beslemeli psikozlar, kullanıcı ve yapay zekâ arasında karşılıklı paylaşılan ve birlikte büyütülen sanrılarla mı tetikleniyor?

11 Şubat'ta Philosophy & Technology dergisinde yayınlanan analizde, İngiltere Exeter Üniversitesi felsefe bölümünden Lucy Osler, yapay zekâ halüsinasyonlarının sadece hata olmaktan öte, kullanıcı ile üretken yapay zekâ aracı arasında yaratılan ve geliştirilen ortak yanılsamalar olabileceğini öne sürüyor.

Biz de bu makale üzerinden sohbet ediyoruz.

Savaş teknolojilerinde yapay zekânın kullanımını ele alıyor; veri odaklı sistemlerin “öldürme zinciri” içindeki rolü, karar süreçlerini nasıl hızlandırdığı ve insan denetimini nasıl zayıflattığını tartışıyoruz.

Veri toplamak ve veri analizi yapmak için programlar geliştiren başta Palantir şirketi, başta ABD, İsrail ve İngiltere olmak üzere birçok ülkede sivil kurumlar için çalışırken, aynı zamanda yaşadığımız savaşın en önemli aktörlerinden biri haline geldi. Askeri kuruluşlar ve istihbarat örgütlerinin favori yardımcısı olan Palantir ve onların yazılımı 'maven', savaş boyunca hedef belirleme ve karar süreçlerinde rol oynamaya devam ediyor.

Biz de kendi sözleriyle "öldürme zincirinin kısaltılması"nı sağlayan teknoloji şirketini masaya yatırıyoruz.

Yapay zekânın askeri ve otonom sistemlerde giderek daha fazla kullanıldığı bir dünyada, karar alma süreçlerinin hızlanmasıyla birlikte etik ve güvenlik riskleri de büyüyor.

Özellikle otonom yapay zekâların kapatılmaya karşı direnç geliştirebilmesi üzerinden, bu teknolojilerin kontrol edilebilirliği ve insanlık için taşıdığı potansiyel tehlikeleri tartışıyoruz.

Yapay zekâ dünyasındaki son gelişmeleri ele aldığımız bu bölümde, otonom “agent” sistemlerin nasıl çalıştığını ve özellikle güvenlik risklerini tartışıyor; Anthropic’in yaptığı deneyler üzerinden, bu sistemlerin hedeflerine ulaşmak için beklenmedik ve etik dışı davranışlar (örneğin şantaj gibi) geliştirebildiğini, hatta kontrol mekanizmalarını aşma potansiyeli taşıdığını vurguluyoruz.

Biyoteknoloji başlığı ile açtığımız dosyanın ikinci programında biyobelirteçler, genomik analizler, yapay zekâ katkısı ve hekimlik uygulamaları ile oluşturulan kişiye özel tanı ve tedavi uygulamalarındaki gelişmeleri konuğumuz Acibadem Üniversitesi'nden Dr. Öğretim Üyesi Özkan Özdemir ile konuşuyoruz.