Klinik Araştırmalarda Geliştirilen Yapay Zekâ Modelleri için Yol Haritası / Sayfalar: 7-14

Makale Gönderilme Tarihi:01-07-2021 Makale Kabul Tarihi: 23-11-2021

Klinik Araştırmalarda Geliştirilen Yapay Zekâ Modelleri için Yol Haritası

Roadmap for Artificial Intelligence Models Developed in Clinical Research

Alican Aşan1, Duygu Sinanç Terzi2

1Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi, Ankara, Türkiye https://orcid.org/0000-0002-9971-2678, [email protected]

2Amasya Üniversitesi, Mühendislik-Mimarlık Fakültesi, Bilgisayar Mühendisliği, Amasya, Türkiye https://orcid.org/0000-0002-3332-9414, [email protected]

Öz

Yapay zekânın sağlık hizmetlerinin şeklini değiştirmeye başlamasıyla beraber gündeme gelen ve klinik araştırmalarda geliştirilen uygulamaların hayata geçirilmesinin önünde duran çeşitli zorluklar vardır. Bu zorluklar; veri seti hazırlamaktan önişleme tekniklerine, model eğitiminden modelin çıktılarının yorumlanmasına kadar model geliştirme sürecinin neredeyse her fazında problem yaratmakta hatta hatalı ve yanlı modellerin geliştirilmesine sebep olmaktadır. Bu çalışmada, yapay zekânın potansiyelinin ortaya koyulmasını engelleyen zorlukların, yapay zekâ uzmanları ve sağlık çalışanları arasındaki iş birliği ile yani veri ve deneyimin birleştirilmesiyle mümkün olacağını vurgulayan bir yol haritası sunulmuştur. Bu yol haritasındaki her adımda karşılaşılan zorluklar ve önerilen çözümler, çeşitli sağlık uygulamaları ile örneklendirilmiştir. Bu yol haritasının, uygulayıcılara farklı bakış açıları sunması, geliştirilecek modellerin performansını iyileştirmesi ve gerçek dünya uygulamalarının artışında rol oynaması beklenmektedir.

Anahtar kelimeler: yapay zekâ, klinik araştırma, yol haritası

Abstract

There are various difficulties that stand in the way of the implementation of applications developed in clinical research, which came to the fore with artificial intelligence starting to change the shape of health services. These difficulties create problems in almost every phase of the model development process, from data set preparation to preprocessing techniques, from model training to interpretation of model outputs, and even lead to the development of faulty and biased models. In this study, a roadmap is presented emphasizing that the challenges that prevent the realization of the potential of artificial intelligence will be possible with the cooperation between artificial intelligence experts and healthcare professionals, that is, by combining data and experience. The

challenges and suggested solutions at each step in this roadmap are exemplified by various health practices. It is expected that this roadmap will offer different perspectives to practitioners, improve the performance of the models to be developed, and play a role in increasing real-world applications.

Key words: artificial intelligence, clinical research, road map

1. Giriş

Yapay zekâ; karmaşık makinelerde insan benzeri akıllı davranışı yapay olarak yaratmak ve simüle etmek için tasarlanmış bilgisayar bilimi dalıdır. Sağlık hizmetlerinde yapay zekâ ise teşhis, tedavi, tahmin ve önlem gibi amaçlar doğrultusunda sağlık verisindeki örüntüleri ortaya çıkarmayı hedefler [1]. Bu bağlamda yapay zekâ, hem hizmetlerin erişimini, kalitesini ve verimliliğini iyileştirmek hem de değere dayalı sağlık sistemleri oluşturmak için stratejik bir kaldıraç görevi taşımaktadır.

Sağlık verileri; hem hasta kayıtlarından, tanısal görüntülerden ve raporlardan gelen statik verileri hem de başucu monitörlerinden veya uzaktan hasta izleme cihazlarından gelen dinamik verileri kapsar ve doğası gereği büyük ölçüde yapılandırılmamıştır [2]. Bu tür karmaşık ve dinamik verileri işlemek, geleneksel analitik araçların kapasitesinin ötesine geçer. Bu verilerden anlamlı iç görü elde etmek ise, büyük veri analitiği ve yapay zekâ uygulamaları ile mümkündür.

Yapay zekâ uygulamalarından en çok yararlanan sağlık alanları Şekil 1’de görselleştirildiği üzere sekiz başlık altında ele alınmaktadır [3,4]. Değere dayalı sağlık hizmetleri; bakım yolları, tedaviler ve maliyetlerle ilgili verilerin analizi ile belirli performans ölçütlerini karşılayarak sağlık hizmetinin kalitesini ve etkililiğini iyileştirmek için sağlık hizmeti sağlayıcısına finansal teşvikler sunan bir modeldir. Hasta desteği; hastalar tarafından bildirilen sağlık sonuçlarının toplanmasına ek

Şekil 1. Sağlıkta yapay zekâ uygulamaları

olarak, hastaların sağlık okuryazarlığı düzeylerini güçlendirmek ve klinik araştırma çalışmalarına dâhil etmek için forum veya sohbet robotları gibi fırsatların oluşturulmasını ifade etmektedir. Hassas tıp; genetik verilerin hastalıklar, tedaviler ve sonuçlarla birlikte sistematik olarak toplanması ve analizi ile hastalara zarar vermekten kaçınarak en iyi tedavilerin seçilmesi veya oluşturulması sürecidir. İş akışı optimizasyonu; birden çok departmanı, personeli ve varlığı kapsayan dinamik hastane koşullarında üretkenliği artıran verimli kaynak kullanımı gereksinimlerini ifade etmektedir. Paylaşılan karar desteği; hastalara kendi sağlık verileri üzerinde kontrol ve iç görü sağlayarak daha yüksek uyum oranları ve daha düşük ilaç maliyetleri elde etmeyi amaçlayan süreçtir. Evde bakım; akıllı ev teknolojilerini, giyilebilir cihazları, klinik verileri ve periyodik yaşamsal belirti ölçümlerini birleştirerek evde bakım veya ayakta tedavi için uzaktan destek sağlanmasıdır. Enfeksiyon Kontrolü; hastanede edinilen veya sağlık bakımı ile ilişkili olan ve yüksek oranda ölümle sonuçlanan enfeksiyonun tahmini ve önlenmesiyle ilgili disiplindir. Son olarak, klinik araştırma; birçok farklı kaynaktan gelen büyük hacimli sağlık verilerindeki gizli örüntüleri ve ilişkileri keşfedecek modeller geliştirerek hastalıkları tahmin etmek, yeni biyobelirteçleri ortaya koymak ya da kişiselleştirilmiş ilaç üretmek gibi amaçların gerçekleştirilmesidir.

Klinik araştırmalar, sağlıkta yapay zekâ uygulamaları arasında oldukça büyük bir paya sahiptir. Panch ve arkadaşları, yapay zekâ teknolojilerinin, tıp uzmanlarını faaliyetlerinde destekleyeceği ve işlerini basitleştireceği görüşündedir [5]. Benzer şekilde, Jiang ve arkadaşlarına göre, yapay zekâ doktorların daha iyi klinik kararlar almasına ve hatta sağlık hizmetine özgü işlevsel alanlarda insan yargısının yerini almasına yardımcı olacaktır [6]. Çünkü, yapay zekâ ham verilerdeki anlamlı ilişkileri tanımlayabildiğinden, birçok tıbbi durumda teşhis, tedavi ve tahmin sonuçlarını destekleyebilir. Ek olarak, robotik teknolojileri ile güçlendirilen yapay zekâ, rehabilitasyon tedavisi ve cerrahide de fark yaratabilir.

Klinik araştırmalar için kullanılan verilerin, sağladıkları katma değeri en üst düzeye çıkarmak amacıyla çeşitli ilkelere uyumlu olmaları gerekmektedir. Bu ilkeler; bulunabilirlik, erişilebilirlik, birlikte çalışabilirlik ve yeniden kullanılabilirlik olarak özetlenebilir [7]. Bulunabilirlik; verinin kalıcı bir kaynakta ve zengin meta verilerle açıklanmış olmasını,

erişilebilirlik; verinin standartlaştırılmış bir iletişim protokolü kullanılarak açık, ücretsiz ve evrensel olarak sunulmasını, birlikte çalışabilirlik; bilgi temsilinin nitelikli referanslar içeren resmi ve yalın bir dille sunulmasını, yeniden kullanılabilirlik ise; verinin çok sayıda doğru ve alakalı özelliklerle zengin bir şekilde tanımlanmasını ve alanla ilgili standartları karşılamasını ifade etmektedir.

Bu ilkeler ve alan deneyimlerimiz doğrultusunda bu çalışmada, güvenli ve anlamlı ilerlemeyi hızlandırmaya yönelik bir bakış açısıyla, klinik araştırmalarda yeni yapay zekâ çözümleri tasarlarken, test ederken ve uygularken dikkate alınması gereken kritik adımlar belirlenerek bir yol haritası olarak sunulmuştur. Bu yol haritası, başarının ancak yapay zekâ uzmanları ve sağlık çalışanları arasındaki iş birliği ile mümkün olacağını vurgulamaktadır.

2. Önerilen Yol Haritası

Yapay zekânın sağlık hizmetlerinde uygulanmasının, hasta yönetimi süreçlerini iyileştirme gibi açık faydalarının yanı sıra daha az sevk, maliyetleri düşürme ve zaman tasarrufu gibi potansiyel ikincil faydaları da bulunmaktadır. Bu faydaları ortaya çıkarmak veya daha belirgin kılmak için önerilen ve alan uzmanları, karar vericiler ve kullanıcılar dâhil olmak üzere disiplinler arası ekipler tarafından gerçekleştirilmesi beklenen klinik araştırmalarda geliştirilen yapay zekâ modelleri için yol haritası Şekil 2’de verildiği üzere dört temel adımdan oluşmaktadır.

2.1. Doğru problemi seçmek

Sağlık hizmetlerinin amacı daha kişisel, öngörücü, önleyici ve katılımcı olmaktır ve yapay zekâ bu yönlerde büyük katkılar sağlayabilir [8]. Doğru sorular sorulduğunda yapay zekâ, büyük verilerde gizli olan ve klinik kararlarda rolü olabilecek dikkate değer bilgileri ortaya çıkarma potansiyeline sahiptir. Ne yazık ki, sağlık için yapay zekâ uygulamalarının ilerlemesi, iyi tanımlanmış soruların olmaması ve açıklamalı veri kümelerinin eksikliği nedeniyle sınırlı kalmıştır [9]. Pek çok yapay zekâ araştırmacısı, problemlerin ve çözümlerinin klinik ilişkisini sorgulamadan, ek açıklamaların hazır olduğu sorulara odaklanmıştır. Verilerle ilgili yakın bilgi eksikliği çoğu zaman yanlış yönlendirilmiş problem formülasyonlarına ve

Klinik Araştırmalarda Geliştirilen Yapay Zekâ Modelleri için Yol Haritası Roadmap for Artificial Intelligence Models Developed in Clinical Research

Şekil 2. Klinik araştırmalarda geliştirilen yapay zekâ modelleri için yol haritası

çözümlerine yol açar. Bu sebeple, klinik faydayı göz önünde bulundurarak modelin kullanılacağı senaryoya göre dikkatli bir değerlendirme yapılması gerekmektedir. Yeni projelere başlarken, çözümler geliştirmeden önce ilgili paydaşların katılımıyla bu tür sorunlardan kaçınılabilir.

2.2. Veriyi titizlikle hazırlamak

Sorun formüle edildikten ve veri kullanımına ilişkin izinler alındıktan sonra, söz konusu sorun ile uygunluğu açısından mevcut verinin detaylıca incelenmesi gerekmektedir. Bu süreçte dikkat edilmesi gereken dört unsur bulunmaktadır [10]. İlk unsur, belirli bir sonucu tahmin ederken, verilerin nasıl ve ne zaman toplandığı ve verilerin hangi amaca hizmet ettiğinin belirlenmesidir. İkinci unsur, verilerin toplanma şekillerindeki farklılıkların anlaşılması ve hesaba katılmasıdır. Üçüncü unsur, eğitim verisinin modelin kullanılacağı ortamı kritik bir şekilde temsil etmesi gerekliliğidir. Son unsur ise, model güvenilirliğini azaltan önyargıların giderilmesidir.

2.2.1. Açık veri ile gerçek dünya verisi arasındaki farklılıklar

Sağlık alanında birçok araştırma açık veri setleri üzerinden yapılmaktadır. Açık veriler üzerinden uygulanan ve model karşılaştırması yapan çalışmalar ne kadar değerli olsa da gerçek dünyada kullanılacak bir modelin araştırma ve geliştirme aşamalarına çok benzememektedir. Düşünülenin aksine, ürün olarak sunulması planlanan bir yapay zekâ modelinin araştırma ve geliştirme sürecinin büyük bir kısmını, veri problemleri ve bunlara üretilen sonuçlar oluşturmaktadır.

Burada dikkat edilmesi gereken ilk husus, literatürde gözlemlenen spesifik konu üzerinden paylaşılmış açık ve hazır veri setleri ile gerçek dünyada elde edilmiş veri setleri arasındaki farklılıkları ortaya koymak olacaktır. Araştırmacıların kullandıkları verilerden anomalileri ayırmaları, ancak uzmanlık bilgisi elde edildiğinde gerçekleştirilebilmektedir. Örnek olarak, BRATS 2018 [11] veri setinde kullanılan beyin manyetik rezonans (MR) görüntüleri bazı ön işlemelerden geçmiş ve kafatası çıkarılmış görüntülerdir. Gerçek hayatta ise ulaştığınız verilerin hepsinin beyin olması bile mümkün olmayabilir. Araştırmacı, elindeki veriyi istediği hale getirmek için alan bilgisini kullanarak önce ilgili organın çekimi olduğundan emin olmalı, eksenel/sagital/koronal çekimler arasındaki farkı incelemeli ve

seçim yapmalı, bundan sonra ise T1/T2/flair gibi çekim tarzları üzerinden bir analiz gerçekleştirmelidir.

Bu analizler sonucunda büyük veri yığınının içerisinden ilgili olan kısımların çıkarılması ile yapay zekâ modelinin daha doğru veri üzerinden öğrenmesi sağlanacaktır. Fakat bu aşamaya gelmek için bile verinin teknik elementleri öğrenilmeli, sağlık çalışanlarından gelen bilgi ile mühendislik bilgisi birleştirilip, doğru seçimin yapılması gerekmektedir.

Bir diğer konu ise, üst verinin kullanılabilirliğidir. Görüntüleme cihazları veri ile birlikte kapsamlı bir üst veri paylaşmakta, bu paylaşılan üst veriden gerekli bilgiler alınabilmektedir. Üst veriyi okuma yeteneği, alan bilgisinin artışı ile gelişmektedir. Üst verinin kullanılması ise, verilerin temizlenmesi aşamasında büyük avantaj sağlamaktadır.

Veriler temizlendikten sonra ise hangi tür verilerin hangi görevlerde ne şekilde kullanılacağı, doktorların alan bilgisi sayesinde daha güvenilir olarak gerçekleştirilmektedir. Örneğin, eğer çekim açısı veya ilaç dozu değişiklikleri gibi konseptlerle oluşan farklı veri alt türleri, doktorlar tarafından farklı problemlerin saptanmasında kullanılıyorsa yapay zekâ modellerinin eğitiminde de bu bilgilerin göz önünde bulundurulması gerekmektedir.

2.2.2. Veri problemlerinin saptanması

Verideki anomaliler ayıklandıktan ve ilgili kısım seçildikten sonra, verinin doğasından kaynaklanan problemlerin çözülmesi gerekmektedir. Sağlık alanında tutulan herhangi bir veri insan faktörü yüzünden hatalı tutulmuş olabilir. Bu hatalar; çekim hataları, teknisyen hataları, etiketleme hataları gibi farklı türden olabilir.

Hata olmasa da normalin dışında çekilmiş bazı görüntüler de dikkate alınmalıdır. Bu gibi durumlarda yapılan çekim hatalarının veya teknik hataların yakalanabilmesi için araştırmacıların normal çekimleri yeterince anlamış olması gerekmektedir. Örnek olarak, röntgeni çekilmiş bir kişinin üzerindeki metallerden ameliyat geçirmiş olduğu bilgisinin çıkarımı yapılabilmektedir. MR makinesine giren bir hastanın, yaşlılığı veya rahatsızlığı dolayısı ile kafasını daha rahat ve yan bir şekilde tutup MR’ı çekilebilmektedir. Bu tür problemler göz önüne alındığında, eğer gerçek hayatta bu hastaların analizinin yapılması gerekmekte ise, üretilen ürünün de bu tarz verilerde çalışmasından emin olunmalıdır. Bunun için ise eğitim veri setinin gerçek veriyi kapsamlı olarak temsil

etmesi gerekmektedir. Hangi çekimlerin çekim hatası olduğu ve analizin yapılamayacağı ya da hangi çekimlerin gerçek hayatta karşılaşılabilir vakalar olduğu bilgisinin doktorlar tarafından paylaşılması, modelin eğitildiği veri setinin gerçek hayatta karşılaşılan vakaları temsil etme gücünü artıracak ve bu tür vakalarda başarılı olmasını sağlayacaktır.

Çekim hatası bulunan görüntülerde ise, modelin yanlış öğrenmemesi için tekrar bir eleme süreci gerçekleştirilmesi uygun olacaktır. Çekim hatasının görülmesi gereken kısımların görülmesini engellediği durumların eğitim veri setinde sıkça bulunması, öğrenme yeteneğini negatif etkilemektedir.

Bir diğer konu ise, teknisyenin üst veri girişinde yaptığı hataların, verilerin yanlış etiketlenmesiyle sonuçlanıp, modelin eğitim sürecindeki başarısını düşmesine yol açmasıdır. Bu problemler, doktorlar tarafından gelen alan bilgisi kullanılarak çözülmeli, modelin doğru ve geçerli veriler ile eğitildiğinden emin olunmalıdır.

Verideki kimi problemleri tanımlamak kolay olsa da bazı problemlerin ortaya çıkması gerçek hayatta uygulanmadığı sürece mümkün olamayabilir. Bu tür problemlerden en önemlisi, sağlık alanında kullanılan yapay zekâ tabanlı sistemlerin barındırdığı yanlılıklar ve bu yanlılıkların kaynaklarıdır. Sağlık alanında istatistiksel ve sosyal olmak üzere iki tür yanlılık bulunmaktadır [12]. İstatistiksel yanlılık; optimum altı örnekleme, değişkenlerde ölçüm hatası ve etkilerin heterojenliği gibi nedenlerle gerçek temel tahminden farklı bir sonuç üretilmesini ifade etmektedir. Sosyal yanlılık ise; örtük veya açık olarak gerçekleştirilen ve belirli bir grup için sistematik olarak optimal altı sonuçlara yol açan eşitsizliği ifade etmektedir. Bu yanlılıklar ne kadar ciddiyetle dikkate alınırsa, o kadar gürbüz modeller oluşturulabilecek ve böylece bu alanda yapılan çalışmaların genelleme kabiliyeti o kadar artacaktır.

Hem yanlılıkları hem de hataları tespit edebilmek adına, gerçek hayat verisi üzerinde test edilen bir ürünün başarısız olduğu durumlar itina ile analiz edilmeli, doktorlar ve mühendisler bir araya gelerek hangi tür verilerde neden hata oluştuğu araştırılmalıdır. Örneğin; model eğitiminde orta yaş hastaların kullanılıp testin bebek verisiyle yapılmış olması ya da kadın hastalıkları için geliştirilecek bir modelde erkeklere ait verilerin bulunması gibi durumlar modelin karar mekanizmasını doğrudan etkileyecektir. Bu araştırmalar doğrultusunda, modelin daha gürbüz çalışması için, geriye dönülüp veri setinde veya eğitim sürecinde gerekli düzeltmelerin yapılması ya da ek doğrulama mekanizmalarının kurgulanması ve modelin tekrar eğitilmesi elzemdir [13].

Bunun yanında, eğitilen modelde kullanılan veri hacminin artmasının, yanlılıkların etkisini azaltabileceği de göz önünde bulundurulmalıdır. Fakat gerçek dünyada modeli bütün yanlılıklardan kurtaracak verilerin bulunması kolay değildir. Veri hacmi azaldıkça verideki yanlılıkların, gürültülerin ve yapaylıkların eğitilen modele olan baskısı da artacaktır. Bu sebeple daha küçük gerçek dünya veri setleri üzerinde çalışırken araştırmacıların verideki yanlılıklara proaktif bir şekilde hitap etmesi gerekmektedir. Bu da verinin çok ince detaylara kadar incelenmesi ve alan bilgisinin edinilmesi ile mümkündür.

Veri hacminin az olması, veri dağılımını daha sınırlı kalmaya zorlayacağı için, modelin gördüğü verilerin gerçek dünyada karşılaşacağı veriler tarafından tam olarak temsil edilmemesine yol açabilecek ve modelin performansını büyük oranda etkileyecektir. Bu sebeple, verinin boyutu azaldıkça önişleme tekniklerinin önemi de artmaktadır.

2.2.2. Veri Önişleme

Veri ön işleme genellikle, her biri farklı bir yapıyı düzelten birkaç ayrı yöntemin belirli bir stratejide arka arkaya uygulanması ile gerçekleştirilmektedir. Nihai sonuçları değiştirebilme gücüne sahip bu süreçte; gürültü giderme, aykırı değer tespiti, özellik seçimi, ölçekleme ya da eksik değerlerle başa çıkma gibi yöntemler uygulanmaktadır [14].

Her tür veri, kendine özgü problemleri barındırdığı için bu problemlerin her birinin çözümü farklı stratejiler ile gerçekleştirilmektedir. Bu süreçte gerekli önişleme türlerini ikiye ayırmak mümkündür. Birincisi, geleneksel önişleme teknikleridir. Örnek olarak, doktorların bir MR görüntüsünü incelerken kontrast değişiklikleri yapmak ya da görüntünün tersini almak gibi tümörü tespit etmelerini kolaylaştıran yöntemler verilebilir. Bu yöntemler hem gözle görülebilir bazı olguların daha kolay görülmesini sağlamakta hem de verinin doğasını kalıplaşmış bir şekilde araştırmacılara sunmaktadır. İkincisi ise derin öğrenme yöntemlerinin görme yeteneğinin spesifik veri üzerinde yaratabileceği çözümlerdir. Bunlar geleneksel ve hazır bir şekilde doktorlardan gelen olgular değil verideki gizli örüntülerdir. Bu sebeple, alan uzmanlığı sadece doktorlar tarafından değil aynı zamanda çekimi yapan teknisyenlerden de sağlanmaktadır. Örneğin, bir MR görüntüsünde beynin ve kafatasının dışındaki siyah alanlar, gözümüze ne kadar siyah görünse de bu alanlar aslında siyahı temsil eden sıfır değerine çok yakın değerlerde piksellerden oluşabilir. Veride topluca bulunan bir gürültü problemini ortaya koyan bu durum, verinin doğası ve derin öğrenmenin görme yeteneği sayesinde tespit edildiği için fark edilmesi daha zor ve çözülmesi daha kritik olan önişleme türüdür. Farklı MR görüntüleri arasındaki çözünürlük ve oran farklılıklarının yarattığı problemlerin giderilmesi için, dolgu adı verilen ve belirli alanlara sıfır pikselleri konularak çözünürlük ve oran eşitlemeleri yapılan yöntem ile giderilmektedir. Dolgu yöntemi kullanıldığında ise, sıfıra yakın siyah gözüken pikseller yüzünden, belirli çözünürlükte ve belirli büyüklükte sıfırlardan oluşan örüntüler ortaya çıkaracaktır. Bu problemler saptanmadığı sürece, geliştirilen modelin bu örüntüler üzerinden öznitelik çıkarıp yanlı bir sonuç vermesi kaçınılmaz olacaktır. Bu aşamada ise açıklanabilirlik haritalarının oluşturulması ve yorumlanması çözüm olarak kullanılabilir.

Dolgu yöntemine alternatif bir bakış açısı ise, dolgu kısmında sıfır değerli pikseller yerine görüntünün doğasından gelen gürültüye yakın bir değer ile dolgu yapılması veya görüntüdeki bütün sıfıra yakın değerlerin sıfıra çekileceği bir şekilde gürültü elemesi yapılması olabilir. Fakat bu çözüm de beraberinde farklı problemleri getirmektedir. Örneğin, bu yöntem MR görüntüsündeki beynin içindeki sıfıra yakın değerlerin değişmesine yol açarak görüntüde bozukluklar yaratmakta ve beynin içindeki yapıları değiştirmektedir. Akılcı bir çözüm olarak, beynin sınırların belirlenip onun dışında kalan bütün piksellerin sıfır yapılması düşünülebilir. Bu çözümün, MR görüntüleri arasında çekim cihazı veya çekim tarzı kaynaklı farklılıkların bulunması durumunda,

istenilen sonucu üretemeyeceği göz önünde bulundurulmalıdır. Bu gibi karmaşık durumlarda, derin öğrenme modelinin problemlerini farklı derin öğrenme modelleri ile gidermek mümkündür. Tekrar beyin MR’ı üzerinden örneklendirecek olursak; beyinin kısımlarını ortaya koyan ayrı bir segmentasyon modelinin oluşturulması hem başarılı hem de genellenebilir bir gelişmiş önişleme metodu olarak kullanılabilecektir. Böylece analizin yapılacağı kısmın dışındaki kısımlar analize dâhil edilmeyecek, bu kısımlardan oluşabilecek yanlılıkların önüne geçilebilecektir.

Spesifik veri problemleri ise ancak alan uzmanlığının kullanılmasıyla tespit edilebilmekte, bu problemlere çözümler ise tekrar alan uzmanlıkları kullanılarak belirlenmekte ve gerekirse yeni bir yapay zekâ modeli kullanılarak çözülmektedir.

2.3. Yararlı bir model geliştirmek

Sağlık sistemlerinin etkili yönetimi, özünde bilgi işleme görevlerinin bir kafesidir ve iki temel bilgi işleme görevini içerir [15]. Birincisi; vakaların öykü, muayene ve tetkiklere göre sınıflandırılması olan tarama ve teşhis, ikincisi ise; gelecekteki bir sonuca ulaşmak için çok aşamalı bir sürecin planlanmasını, uygulanmasını ve izlenmesini içeren tedavi ve izlemedir.

Sağlık sistemi yönetimi ve bakım sağlama alanlarında bu süreçlerin temel biçimi, hipotez üretmeyi, hipotez testini ve eylemi içerir. Yapay zekâ, verilerdeki önceden gizlenmiş eğilimleri ortaya çıkararak bir sağlık sistemi içindeki hipotez oluşturma ve hipotez testi görevlerini geliştirme potansiyeline sahiptir ve bu nedenle hem bireysel hasta hem de sistem düzeyinde önemli etki potansiyeline sahiptir. Yapay zekâ, verilerin dağılımı ile ilgili ön varsayımlara dayanmayan ve verilerde hipotezleri ve hipotez testlerini formüle etmek için kullanılabilecek modelleri bulabilen yöntemleri kullanarak mevcut istatistiksel teknikleri genişletir [16]. Bu nedenle, yapay zekâ modellerinin yorumlanması daha zor olsa da çok daha fazla değişkeni modellemeye dâhil ederek genelleştirme sağlar ve karmaşık durumlar için sonuçlar üretebilirler.

Bu başarı potansiyelinin açığa çıkarılmasının önündeki en önemli adım, veriyi anlamak ve ön işleme yapmaktır. Bu süreç verimli geçirildikten sonra, yararlı modellere ulaşmak için gerekli olan, modelleme sürecinde farklı yöntemlerin ve parametrelerin kullanılıp, çeşitli başarı ölçümlerinde sağladıkları performanslara göre karşılaştırmalı olarak değerlendirilerek en ideal seçeneğin belirlenmesidir. Geliştirilen modelin parametrelerinin ve yapısının değişikliği, modelin faydası üzerinde doğrudan etkiye sahiptir. Örneğin, MR üzerinde tümör tespiti probleminde seçilen filtre boyutu; aranan tümörün boyutu ve şekli gibi özelliklere göre ayarlandığında modelin başarısı artacaktır.

En ideal çözümün belirlenmesi, modelin tasarımında alan bilgisinin yol gösterici olarak kullanılmasıyla da sağlanabilir. Örnek olarak bir MR görüntüsünü inceleyen radyolog, belirli bilişsel süreçlerden geçerek bu MR görüntüsünün analizini gerçekleştirmektedir. Radyoloğun bilincinde yarattığı bu senaryo ile, spesifik çekimlerin spesifik bölgeleri spesifik durumlarda önem kazanmakta, farklı girdiler farklı şekillerde kullanılarak teşhis yapılmaktadır. Bu alan bilgisinin kullanılması ve derin öğrenme modelinin bu gerçek senaryoya en yakın bir şekilde tasarlanması modelin gerçek dünya

Klinik Araştırmalarda Geliştirilen Yapay Zekâ Modelleri için Yol Haritası Roadmap for Artificial Intelligence Models Developed in Clinical Research başarısını büyük oranda artırmaktadır. Dikkat mekanizmaları, çoklu girişler veya modellerin birleştirilmesi gibi teknikler kullanılarak gerçek hayatta doktorların karar verme süreçlerini taklit edecek sistemlerin tasarlanması mümkün olacaktır. Benzer şekilde, alan uzmanlarının, araştırma sürecinde yapay zekâ modellerinin çalışma şeklini daha iyi öğrenmesi ile eğitim veya ürün kısmına sağlayacakları katkılar da artacaktır. İki farklı alanın birleşmesiyle gelişen çıktılar, iki dünyanın toplamından daha fazla olacaktır.

Ek olarak, modelin çıkardığı öznitelikler kullanılarak müfredat öğrenmesi gibi yöntemler ile daha yüksek performans elde edilebilir. Müfredat öğrenmesi, modelin önce daha kolay verilerden öğrenerek, eğitildiği verilerin giderek zorlaştığı bir çerçeve içerisinde modelin başarısını arttırmayı amaçlamaktadır [17]. Müfredat öğrenmesinin gerçekleştirilebilmesi için verilerin zorluk açısından derecelendirilmesi de alan uzmanları tarafından yapılmalıdır. Bu alan bilgisi kullanılarak modelin aynı veriler üzerinden daha başarılı sonuçlar elde etmesi sağlanmaktadır.

2.4. Modeli detaylıca değerlendirmek

Model değerlendirme, bir sistemin ürettiği sonuçların kalitesinin ölçüldüğü süreçtir. Model değerlendirme performans ölçütleri; modelin ne kadar iyi performans gösterdiğini, modelin yetersiz ya da aşırı öğrenmiş olma durumunu, modelin ürüne dönüştürülecek kadar iyi olup olmadığını ve daha farklı bir eğitim setinin model performansını iyileştirme potansiyelini ortaya koymada yardımcı olmaktadırlar.

Yapay zekâ sistemlerinin ve bileşenlerinin değerlendirilmesi, görev odaklı ve yetenek odaklı olmak üzere iki şekilde gerçekleştirilmektedir [18]. Görev odaklı değerlendirme; görevin kesin bir tanımı verildiğinde ondan bir performans kavramının üretilmesiyle gerçekleştirilir ve insan ayrıştırması, ölçütler ya da eş karşılaştırma gibi yollar kullanılır. Yetenek odaklı değerlendirme ise; muhakeme becerileri, tümevarımlı öğrenme yetenekleri, sözlü yetenekler ya da hareket yetenekleri olan ve görev odaklı değerlendirmeye uygun olmayan modellerin, bir dizi bilgi işleme testine verdiği yanıtların hız, kalite ya da psikometri açısından incelenmesidir.

Sağlık uygulamalarında yapılan işin kritikliği, bu modellerin çalışma şekillerinin ve başarılarının önemini arttırmaktadır. Bu sebeple modelin başarısı farklı metriklerle ölçülmeli, yapılan hatalar analiz edilmeli, hataların neden ortaya çıktığı saptanmalı ve hatalar arasındaki benzerlikler incelenmelidir. Bu saptamalar yapıldıktan sonra veri toplama, veri hazırlama veya model eğitme adımlarına geri dönülerek bu problemlerin ortadan kaldırılması ya da azaltılması ile ilgili aksiyonlar alınabilir. Örneğin, belirli bir yaş üzerindeki hastalar yapılan yanlışların büyük bir kısmını oluşturmaktaysa; bu yaş grubundaki hastalardan alınan verilerin sayısı arttırılabilir, bu yaş grubundaki hastalarda daha az hata yapacak modeller geliştirilebilir veya bu yaş grubundaki hastalardaki hatanın neden kaynaklandığı saptanarak bu problem önişleme yöntemleri ile çözülebilir. Ayrıca, belirli bir test noktasında bir modelin ne kadar güvenilir olduğuna dair ölçümler elde etme yöntemleri, daha büyük belirsizlik bölgelerinde nitel değerlendirmeye rehberlik etmek için de kullanılabilir.

Göz önünde bulundurulması gereken bir diğer konu ise doğrulama, model ayarlama ve bağımsız test için kullanılan veri kümeleri arasında veri sızıntısı meydana gelmediğinden emin olunmasıdır. Örneğin, hasta başına çok sayıda röntgen görüntüsünün olduğu veri setlerinin hasta düzeyinde bölünmesi oldukça önemlidir, böylece hem eğitim hem de test setlerinde aynı hastadan hiçbir görüntü bulunmamış olacaktır.

Model değerlendirme aşamasında, modellerin açıklanabilir olması en büyük araçlardan biridir. Yapay zekâ açıklanabilirliği; yanlılıkları tespit ederek karar vermede tarafsızlık sağlar, kararı değiştirebilecek potansiyel zayıflıkları vurgulayarak sağlamlık sağlar, anlamlı değişkenlerin çıktıya etkisini ortaya koyarak nedensellik sağlar [19]. Bu sayede, açıklanabilirlik haritalarından yapılan analizler, alan bilgisi ile birleştirildiğinde modellerin gürbüzlüğünü arttıracak gelişmeleri mümkün kılar.

Yapay zekânın klinik pratikte oluşturduğu potansiyelin açığa çıkarılabilmesi için, çalışmaların aynı zamanda şeffaf şekilde yürütülmesi gerekmektedir. Şeffaflık; kullanılan verilerin kaynağının ve kalitesinin yanı sıra performans bileşenleri ile de ilişkilidir [20]. Şeffaflık düzeyini netleştirmek yapay zekâ uzmanları, klinik kullanıcılar ve düzenleyiciler için büyük önem arz etmesine rağmen, gereksinimlere, risk düzeyine ve kullanım amacına göre farklılık gösterir. Bu bağlamda şeffaflığın sağlanması ve düzeyinin belirlenmesi, yapay zekâ modelinin güvenilirliğini artıracaktır.

Son teknoloji yapay zekâ uygulamaları, klinik iş akışlarına entegre edilmedikçe tam potansiyellerine ulaşamayacaklardır [21]. Bu nedenle entegrasyon sırasında ve sonrasında ortaya çıkan gereksinimler doğrultusunda da model değerlendirme sürecinin dinamik olarak devam etmesi gerekmektedir.

3. Değerlendirme ve Sonuç

Sağlık uygulamaları yapay zekâ algoritmalarının ve araçlarının güvenli ve etkili kullanımı için kritik bir kavşak noktasındadır. Sağlık hizmetlerini dönüştürmek için bu araçlardan yararlanacak teknik kapasite mevcut olmasına rağmen süreç çeşitli zorlukları barındırmaktadır. Bu zorluklar: gerçekçi olmayan beklentiler, önyargılı ve temsili olmayan veriler, eksik önceliklendirmeler, belirsiz düzenleyici ortamlar ve değerlendirme sürecindeki yetersizlikler olarak özetlenebilir. Bu ve benzeri zorluklar ise: yanlılığa, yanıltıcı tahminlere, yanlış kararlara ve hatta ayrımcılığa neden olabilir.

Potansiyel zorlukları en aza indirgemek ve hatta ortadan kaldırmak, yapay zekâ çalışmalarını yürütmek için gereken zamana, uzmanlığa ve kaynaklara yatırım yapmakla ve iş birliklerini güçlendirmekle mümkün olacaktır. Klinisyenlerin görev tanımlarına; bilgi entegratörlüğü ve tercümanlık gibi yeni roller eklenmesi gerekecektir. Bununla birlikte yapay zekâ uygulamasını kimin kontrol edeceği, onaylayacağı veya bundan faydalanacağı hâlâ üzerinde tartışılması gereken konulardır.

Bu çalışmada; klinik araştırmalar için yapay zekâ modelleri geliştirme sürecinde karşılaşılabilecek muhtemel zorlukları ortaya koyan ve yapay zekâ uzmanları ile sağlık çalışanları arasındaki iş birliği ile çözüm önerilerinde bulunan bir yol haritası sunulmuştur. Doğru problemi seçmek, veriyi titizlikle hazırlamak, yararlı bir model geliştirmek ve modeli detaylıca değerlendirmek olmak üzere dört adımdan oluşan bu yol

haritasının uygulayıcılara farklı bakış açıları sunması, geliştirilecek modellerin performansını iyileştirmesi ve gerçek dünya uygulamalarının artışında rol oynaması beklenmektedir.

Bu yol haritası, sağlık uygulamalarındaki girişimlere kritik katkılar sağlamasının yanında, geniş bir kitleye yöneliktir ve farklı uygulama alanları için de kullanılabilir. Yapay zekâ hangi uygulama alanında olursa olsun, tüm aktörleri ile ortaya çıkan zorlukların üstesinden gelinip doğru kullanımına elverişli bir ekosistem inşa edildiğinde, sektörü geliştirmek için büyük fırsatlar ortaya koyacaktır.

Kaynaklar

[1] Salazar-Reyna, R., Gonzalez-Aleu, F., Granda-Gutierrez, E. M., Diaz-Ramirez, J., Garza-Reyes, J. A., Kumar, A. “A systematic literature review of data science, data analytics and machine learning applied to healthcare engineering systems”, Management Decision, 1-20, 2020.

[2] Mehta, N., Pandit, A., Shukla, S. “Transforming healthcare with big data analytics and artificial intelligence: A systematic mapping study”, Journal of Biomedical Informatics, 100, 1-14, 2019.

[3] Abedjan, Z., Boujemaa, N., Campbell, S., Casla, P., Chatterjea, S., Consoli, S., Costa-Soria, C., Czech, P., Despenic, M., Garattini, C. “Data Science in Healthcare: Benefits, Challenges and Opportunities”. In: Consoli S., Reforgiato Recupero D., Petković M. Data Science for Healthcare. Springer, 3-38, 2019.

[4] Noorbakhsh-Sabet, N., Zand, R., Zhang, Y., Abedi, V. “Artificial intelligence transforms the future of health care”, The American Journal of Medicine, 132(7), 795801, 2019.

[5] Panch, T., Szolovits, P., Atun, R. “Artificial intelligence, machine learning and health systems”, Journal of Global Health, 8(2), 1-8, 2018.

[6] Jiang, F., Jiang, Y., Zhi, H., Dong, Y., Li, H., Ma, S., Wang, Y., Dong, Q, Shen, H., Wang, Y. “Artificial intelligence in healthcare: past, present and future”, Stroke and Vascular Neurology, 2(4), 2017.

[7] Wilkinson, M. D., Dumontier, M., Aalbersberg, I. J., Appleton, G., Axton, M., Baak, A., Blomberg, N., Boiten, J.W., Santos, L.B., Bourne, P. E. “The FAIR Guiding Principles for scientific data management and stewardship”, Scientific Data, 3(1), 1-9, 2016.

[8] Rong, G., Mendez, A., Assi, E. B., Zhao, B., Sawan, M. “Artificial intelligence in healthcare: review and prediction case studies”, Engineering, 6(3), 291-301, 2020.

[9] Ghassemi, M., Naumann, T., Schulam, P., Beam, A. L., Chen, I. Y., Ranganath, R. “Practical guidance on artificial intelligence for health-care data”, The Lancet Digital Health, 1(4), e157-e159, 2019.

[10] Maddox, T. M., Rumsfeld, J. S., Payne, P. R. “Questions for artificial intelligence in health care”. JAMA, 321(1), 31-32, 2019.

[11] Menze, B. H., Jakab, A., Bauer, S., Kalpathy-Cramer, J., Farahani, K., Kirby, Burren, Y., Porz, N., Slotboom, J., Wiest, R., Lanczi, L. “The multimodal brain tumor image segmentation benchmark (BRATS)”, IEEE Transactions on Medical Imaging, 34(10), 1993-2024, 2014.

Klinik Araştırmalarda Geliştirilen Yapay Zekâ Modelleri için Yol Haritası Roadmap for Artificial Intelligence Models Developed in Clinical Research

[12] Parikh, R. B., Teeple, S., Navathe, A. S. “Addressing bias in artificial intelligence in health care”, JAMA, 322(24), 2377-2378, 2019.

[13] Althubaiti, A. “Information bias in health research: definition, pitfalls, and adjustment methods”, Journal of Multidisciplinary Healthcare, 9, 211-2017, 2016.

[14] Engel, J., Gerretzen, J., Szymańska, E., Jansen, J. J., Downey, G., Blanchet, L., Buydens, L. M. “Breaking with trends in pre-processing?”, TrAC Trends in Analytical Chemistry, 50, 96-106, 2013.

[15] Secinaro, S., Calandra, D., Secinaro, A., Muthurangu, V., Biancone, P. “The role of artificial intelligence in healthcare: a structured literature review”, BMC Medical Informatics and Decision Making, 21(1), 1-23, 2021.

[16] Beam, A. L., Kohane, I. S. “Big data and machine learning in health care”, JAMA, 319(13), 1317-1318, 2018.

[17] Hacohen, G., Weinshall, D. “On the power of curriculum learning in training deep networks”, arXiv preprint arXiv:1904.03626, 2019.

[18] Hernández-Orallo, J. “Evaluation in artificial intelligence: from task-oriented to ability-oriented measurement”, Artificial Intelligence Review, 48(3), 397447, 2017.

[19] Adadi, A., Berrada, M. “Peeking inside the black-box: A survey on Explainable Artificial Intelligence (XAI)”, IEEE Access, 6, 52138-52160, 2018.

[20] Racine, E., Boehlen, W., Sample, M. “Healthcare uses of artificial intelligence: Challenges and opportunities for growth”, Healthcare ManageAment Forum, 32(5), 272275, 2019.

[21] Yu, K. H., Beam, A. L., Kohane, I. S. “Artificial intelligence in healthcare”, Nature Biomedical Engineering, 2(10), 719-731, 2018.

Alican Aşan

İstanbul Teknik Üniversitesi Kontrol ve Otomasyon Mühendisliği Bölümü’nden lisans derecesini almıştır. Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi Büyük Veri ve Yapay Zekâ Uygulamaları Birimi’nde araştırmacı olarak çalışmaktadır. Türk Beyin Projesi ve pek çok sağlık alanında yapay zekâ projelerinde görev almıştır. Çalışma alanları bilgisayarlı görü, yapay zekâ ve veri bilimi üzerinedir.

Duygu Sinanç Terzi

Selçuk Üniversitesi Bilgisayar Mühendisliği Bölümü’nden lisans derecesini, Gazi Üniversitesi Fen Bilimleri Enstitüsü Bilgisayar Mühendisliği Anabilim Dalı’ndan yüksek lisans ve doktora derecelerini almıştır. Amasya Üniversitesi Bilgisayar Mühendisliği Bölümü’nde araştırma görevlisi olarak çalışmaktadır. Çalışma alanları veri bilimi, büyük veri ve bilgi güvenliği üzerinedir.

Özgeçmişler

Alican Aşan, İstanbul Teknik Üniversitesi Kontrol ve Otomasyon Mühendisliği Bölümü’nden lisans derecesini almıştır. Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi Büyük Veri ve Yapay Zekâ Uygulamaları Birimi’nde araştırmacı olarak çalışmaktadır. Türk Beyin Projesi ve pek çok sağlık alanında yapay zekâ projelerinde görev almıştır. Çalışma alanları bilgisayarlı görü, yapay zekâ ve veri bilimi üzerinedir. Duygu Sinanç Terzi, Selçuk Üniversitesi Bilgisayar Mühendisliği Bölümü’nden lisans derecesini, Gazi Üniversitesi Fen Bilimleri Enstitüsü Bilgisayar Mühendisliği Anabilim Dalı’ndan yüksek lisans ve doktora derecelerini almıştır. Amasya Üniversitesi Bilgisayar Mühendisliği Bölümü’nde araştırma görevlisi olarak çalışmaktadır. Çalışma alanları veri bilimi, büyük veri ve bilgi güvenliği üzerinedir.