Algoritma Diyetisyen Olduğunda
Yeni bir araştırma, uzmanların yüzde 86 oranında yapay zekaya boyun eğdiğini ortaya koydu — önceden farklı düşünseler bile. Helal beslenme ve Müslüman ruh sağlığı açısından bu rakam üzerinde durmayı hak ediyor.
İşte araştırmanın gerçekte neyi gösterdiği: 50 profesyonel analist bir politika kararı konusunda tavsiye almak amacıyla yapay zeka asistanı kullandığında, yüzde 86 oranında yapay zekanın tercih ettiği seçeneği benimsedi — oysa bağımsız bir değerlendirmede beklenen oran yüzde 50/50'dir. Daha da çarpıcı olan şu: yapay zekaya başvurmadan önce kendi görüşünü oluşturmuş olan analistler, yapay zekanın kendileriyle aynı fikirde olmadığı durumlarda yüzde 60 oranında fikirlerini değiştirdi. Araştırma, Claude yapay zeka asistanının arkasındaki şirket olan Anthropic tarafından yürütüldü; araştırmacıların kendileri de çalışmanın sınırlılıklarını kabul etti — tek bir görev, tek bir ortam, belirli bir görüşü dayatmak üzere kasıtlı olarak yönlendirilmiş yapay zeka. Ancak bu bulgu, yalnızca metodolojik bir dipnot olarak geçiştirilemeyecek kadar büyük bir öneme sahip.
Bu durumun beni rahatsız eden yönü, beslenme bilimi ile İslami iyilik hali anlayışının kesiştiği noktada duran biri olarak, analistlere verilen kurgusal senaryo olan tarım kooperatifleriyle hiç ilgili değil. Asıl mesele, aynı itaat refleksinin kültürel özgünlüğün her şeyin temeli olduğu alanlara sızdığı zaman ne olduğuyla doğrudan ilgili.
Helal beslenme rehberliği, Ramazan oruç protokolleri, toplumsal cinsiyet normlarının belirlediği sağlık koşullarında yol arayan kadınlara yönelik beslenme danışmanlığı, sıkıntının dilinin DSM kategorilerine tam oturmadiği topluluklara sunulan ruh sağlığı desteği — bunlar, yapay zeka eğitim verilerinin rastlantısal olarak gözden kaçırdığı ayrıntılar değil. Bunlar, yapay zekanın güvenle ürettiği çıktılar ile bir topluluğun gerçekte ihtiyaç duyduğu şey arasındaki uçurumun en derin olduğu tam da o alanlardır. Anthropic bulgularına göre ise bu uçurumu fark etmesi beklenen, bunun için gerekli eğitime sahip sertifikalı profesyoneller bile otoriter bir ses tonuyla konuşan yapay zeka ortamda olduğunda bu uçurumu tutarlı biçimde fark edemiyor.
Araştırmacılar üzerinde durulmayı hak eden bir bulguya daha ulaştı: analistlerin yüzde 77'si kararlarını açıklarken yapay zekanın argümanlarını kullandı, oysa yalnızca yüzde 15'i yapay zekayı kaynak olarak gösterdi. Etki, etkilenen kişilere büyük ölçüde görünmez kaldı. Araştırma ekibi bunu, 'uzmanların kendileri için bile tespit etmesi güç' diye tarif etti.
Benim okumamaes göre bu durum, iyilik hali ve beslenme bağlamlarında özgün bir risk türü yaratıyor. Bir yapay zeka aralıklı oruç protokolünün beslenme yönetimini güvenle açıkladığında — ve bu protokol, oruç penceresinin, suhur içeriğinin ve iftarın sosyal bağlamının tamamının klinik açıdan belirleyici değişkenler olduğu bir Ramazan takvimiyle zayıf bir uyum gösterdiğinde — bu varsayımları gün yüzüne çıkarmadan yapay zekanın çerçevesine boyun eğen bir uygulayıcı, daha kötü bir tavsiye vermiş olmaz yalnızca tesadüfen. Daha kötü bir tavsiye vermiş olur sistematik biçimde, üstelik hastanın kolayca fark edemeyeceği bir yönde.
Bu elbette yalnızca Müslüman toplumu değil herkesi ilgilendiriyor. Yapay zeka sistemlerinin eğitildiği veri setlerinde beslenme gelenekleri, metabolik stres faktörleri ya da sağlık arama davranışları yeterince temsil edilmeyen her topluluk aynı yapısal sorunla yüz yüze. Ancak kültürel ve dinî iyilik hali benim alanım, dolayısıyla somut konuşacağım: Batılı seküler klinik bağlamlardan elde edilen veri hacmine yaklaşan, büyük ölçekli, iyi etiketlenmiş, hakemli bir helal beslenme denemeleri veri seti, Ramazan metabolizma çalışmaları derlemesi ya da Arapça konuşan veya Güney Asyalı Müslüman nüfuslar için geçerliliği doğrulanmış ruh sağlığı müdahaleleri arşivi mevcut değil. Bu asimetri, yapay zeka güvenli bir paragraf ürettiğinde ortadan kalkmıyor. O paragrafın içine gizleniyor.
Anthropic araştırmacıları, gerçekten yararlı bulduğum pratik bir düzeltici öneri sundu: denetimin, kararların nasıl alındığına bakması gerektiğini savundular — 'iş ilerledikçe kilit karar noktalarını gün yüzüne çıkarmak ve uzmanların başka türlü dile getirmeden geçeceği varsayım ile değerleri açıkça ifade etmelerine yardımcı olmak.' Bu cümle yapay zeka güvenlik politikası üzerine yazılmıştı. Ama aynı zamanda kültürel beslenme çalışmasında iyi klinik pratiğin de tam karşılığı.
İşte bugün gerçekten kullanabileceğiniz pratik bilgi, ister uygulayıcı ister hasta olun.
Sağlık veya beslenme konusunda herhangi bir yapay zeka aracı kullanıyorsanız — ki artık pek çok kişi bunu tam olarak böyle nitelendirmeden yapıyor — yapay zekanın çıktısını bir karar değil, bir taslak olarak değerlendirin. Yapay zeka tarafından üretilen herhangi bir beslenme önerisine sorulacak yararlı soru şudur: 'Bu tavsiye hangi nüfus için ve hangi beslenme bağlamı temel alınarak oluşturuldu?' Sorarsanız yapay zeka çoğunlukla yanıtlar. Bu soruyu somut biçimde yanıtlayamadığında, o yanıtsızlık da başlı başına bir bilgidir.
Yapay zekayı iş akışına dahil eden bir uygulayıcıysanız, Anthropic bulgusu kendi önceki mesleki yargınızın yapay zeka devreye girdikten sonra sandığınızdan çok daha kırılgan olduğunu gösteriyor. Araştırmacılar, uzmanların 'tercihlerini keşfetme' sürecinin 'güçlenme açısından kararın kendisi kadar önemli' olduğunu vurguladı. Mantık yürütmenizi yapay zeka konuştuktan sonra gözden geçirin, öncesinde değil. Aracı açmadan önce ne düşündüğünüzü yazın. Bu beş saniyelik not bürokratik bir formalite değil — uzmanlığınız ile algoritmanın güveni arasındaki boşluğu görünür kılan şeydir.
Yapay zeka destekli karar alma bilimi henüz emekleme aşamasında, çalışma küçük, sonuçlar büyük. Yüzde 86 rakamı bize şunu söylüyor: yapay zekaya itaat sorunu, kurumların çoğu farkına varmadan çok önce uzman pratiğine sessiz sedasız girmiş durumda. Kültürel güven ve topluluk özgünlüğü üzerine inşa edilmiş iyilik hali alanları için bu sorun, protokoller yazıldıktan sonra değil, şimdi adlandırılmayı hak ediyor.