Yapay zekada insan faktörü unutulmamalı!

İzmir Kâtip Çelebi Üniversitesi (İKÇÜ) Sağlık Bilimleri Fakültesi Öğretim Üyesi ve Akademide Etik Derneği Başkanı Prof. Dr. Esra Akın, İLKSES TV’de Sultan Gümüş Kaya ile Birinci Sayfa programına konuk oldu. Yapay zekâ ve etik alanında uzman Akın, yapay zekanın insan hayatına etkileri üzerine önemli açıklamalarda bulundu. Yapay zekanın üretim, uygulama ve geliştirilme aşamalarının tamamında insan faktörünün unutulmaması gerektiğini dile getiren Akın, etik kavramının her aşamada göz önünde bulunması gerektiğini ifade etti.

HAYATIN HER ALANINDA

Akın, “Dünya değişiyor ve dönüşüyor. 21. yüzyılda özellikle hayatın her alanında teknoloji ağırlık kazandı. Yıllardır yaşamımızda olan ama özellikle son 10 yıldır yapay zekâ konuşuluyor. Her alanda merak uyandırıyor. İnsana ait bilişsel fonksiyonların ve otonom davranışların bir işletim sistemi tarafından sergilenmesi olarak tanımlanabilir. İnsan gibi düşünen seçim yapabilen bir sistemden bahsediyoruz. Son yıllarda birçok alanda olmakla beraber sağlık boyutu da karşımızda çıkıyor. Yaşamımızın her alanında yapay zekâ karşımıza çıkıyor. Basit anlamda akıllı telefonlar, akıllı ev sistemleri, navigasyon sistemlerine kadar her alanda yaşamızda yer aldı. Daha profesyonel anlamda ise yazılım, işletim sistemleri, endüstri, sağlıkta, savunma sanayi alanında karşımıza çıkıyor. 1920’lerde tiyatrolarda robotlarda karşımıza çıktı. Bilim kurgu kitaplarından bugünlere kadar karşımıza hep yapay zekâ çıktı. Tüm alanlara entegre edilmesiyle tüm hayatımıza girdi” şeklinde konuştu.

3 AŞAMADA KONTROL EDİLMELİ

Akın, “Yapay zekâ inanılmaz katkılarla beraber tehditler de bize sunmakta. İnsanların izole edilmesi, temastan kopuş gibi olumsuzlukları olabilir. Ama etik sorunlar olarak baktığımıza yapay zekâ ve etik hem tasarım aşamasında hem geliştirme hem de uygulama aşamasında etikle beraber yol alınmalıdır. Etik tüm aşamalarda olmalı. Bu nasıl olabilmekte peki? Yapay zekâ süreçlerinde ilk olarak tasarım belirliyoruz. Tam bu noktada etik devreye giriyor. Bir sistemi oluştururken etik ihlali yapmadan önce tanı oluşturuyoruz. Tam bu noktada sadece belli bir hasta gruplarından seçim yoluna gidiyorsak yan tutan bir sistem oluşur hem doğru veri vermez hem de etik olmaz. 1 milyon kişilik veri için 100 bin kişi ile veri elde etmeye çalışırsak eğer etik ihlali olur. Belli bir yaş grubunu seçersek, etik ihlali olur. Yanlış tanımlama olabilir. Geliştirme sürecinde alturizmi öne almalıyız. Herkesin yararına olacak bir sistem olmalıdır. İnsan onuru korunmalıdır. Uygulamada da sıkıntı yaşıyoruz. Maliyetler ülke bütçelerini sarsıyor. Yapay zekâ ile belirlenen amaç, ekonomisi olmayan ülkelerdeki insanlara ulaşamayabilir. Yine etik ihlali olur. Amacın her insana ulaşması gerekir. Bunların hepsi konu edilmelidir. Diyelim ki her türlü etiği düşünerek bir sistemi kurup insanlığa sundunuz. Sistem var ama kontrol etmediğinizde belki hataları göremeyeceksiniz. Kontrol etmeniz gerekir. Tasarım, uygulama, geliştirme süreçleri beraber yöneltilmelidir” ifadelerini kullandı.

TEKNOLOJİ KÖTÜ DEĞİL İNSANLAR KÖTÜ AMAÇLI KULLANIYOR

Akın, “Gelişen dünyada iyi niyetlide olsa ne yazık ki basit bazı uygulamalar olumsuzluklar yaşattı. Oyun sistemlerinden intihar girişimlerini gördük. Çocuklara komut verme sistemleri gördük. İnsana ait tüm faktörlerde insan baz alınmalı. Teknoloji asla kötü değildir, kötülük insan eliyle gelişir. İnsan varlığı, yapay zekanın yanında tutulmalı ve kontrol edilmesi gerekiyor. Sorunlar oluşabilir ama sistem bunu tanımlıyor. Ülkeler, birlikler ve kuruluşlar bunun farkında ama buna yönelik yasa ve yönetmelikler yayımlıyor. Yasal düzenlemeler ve etikle beraber olası sorunlar ortadan kalkabilir. İnsan faktörü asla ortadan kaldırılmamalıdır” değerlendirmesinde bulundu.

YAPAY ZEKANIN TANISI DEĞİL NEDENLERİ ÖNEMLİ

Akın, “Yapay zekâ bazlı değişimler devam ediyor. Bizler robotlar tarafından tedavi edilmiyoruz. İnsanı asla dışarıda bırakamayız. Yaşam ve ölüm arasında insan faktörünü, sağlık çalışanın bilgi birikimi dışarıda tutamazsınız. Klinik karar sistemleri, karar destek sistemleri, tıbbi hataların belirlenmesi gibi birçok noktada yapay zekâ yerini aldı. Sağlıkta robotik sistemler mevcut. Oluşabilecek olumsuzlukların önüne geçmek içinde Dünya Sağlık Örgütü’nün (WHO) 2023 yayımladığı yönetmelik var, sınırlar belirleniyor. Doğru noktada doğru yöneltilmesi gerekiyor. Çok önemsiyoruz. Bundan sonraki sistem böyle olacak. Sizinle ilgili veriler sisteme girildiğine yapay zekâ bir tanı koyduğunda biz bunu kabul etmiyoruz. Biz neden bu tanıyı koyduğunun nedenlerine bakacağız” diyerek sözlerini tamamladı.