Deallusrwydd Artiffisial mewn Gofal Iechyd: Pan fydd Arloesedd yn Symud yn Gyflymach na Llywodraethu

Gan Jarred Evans, Cyfarwyddwr yn PDR a Seetal Sall, Arweinydd Profi Pwynt Gofal (PoCT), Bwrdd Iechyd Prifysgol Caerdydd a'r Fro.

Nid yw deallusrwydd artiffisial (AI) bellach yn dechnoleg sy'n dod i'r amlwg ym maes gofal iechyd — mae wedi'i hymgorffori, yn amgylchynol ac yn gynyddol anweledig. O optimeiddio llif gwaith a chefnogi penderfyniadau i feddalwedd ganol, haenau adrodd a rhyngwynebau defnyddwyr, mae AI a Modelau Iaith Mawr (LLMs) yn cael eu gwehyddu fwyfwy i systemau y mae clinigwyr a sefydliadau gofal iechyd yn dibynnu arnynt bob dydd.

Nid yw llawer o'r feddalwedd hon yn cyflwyno ei hun fel dyfais feddygol. Mae’n bosib na fydd llawer ohono byth yn cael ei ddosbarthu fel un ac eto, mae'n cyffwrdd fwyfwy â llifau gwaith clinigol, data cleifion, a — yn uniongyrchol neu'n anuniongyrchol — canlyniadau cleifion.

Mae hyn yn creu tensiwn cynyddol i ddarparwyr gofal iechyd: sut i harneisio effeithlonrwydd a manteision deallusrwydd artiffisial yn ddiogel, gan sicrhau bod diogelwch cleifion, uniondeb data ac atebolrwydd clinigol yn parhau i fod yn hollbwysig.

Mae arddangosiadau diweddar o nodweddion sy'n cael eu galluogi gan AI wedi'u hymgorffori mewn meddalwedd canol diagnostig a systemau gweithredol wedi dod â'r tensiwn hwn i ffocws clir. Maent yn codi cwestiynau y mae llawer o sefydliadau newydd ddechrau ymdopi â nhw.

Y Mater Craidd: Systemau Tebygolrwydd mewn Amgylcheddau Penderfynol

Mae modelau iaith mawr a systemau AI cynhyrchiol eraill yn debygolrwyddol yn ôl dyluniad. Maent yn cynhyrchu allbynnau yn seiliedig ar debygolrwydd, nid sicrwydd. Mae hyn yn eu gwneud yn bwerus wrth grynhoi, adnabod patrymau a rhyngweithio iaith naturiol — ond hefyd yn dueddol o gynhyrchu allbynnau hyderus, credadwy ac anghywir, a elwir yn aml yn “rhithwelediadau”.

Mewn cyd-destun defnyddwyr, gall hyn fod yn anghyfleus neu'n gamarweiniol ond mewn cyd-destun gofal iechyd, gall fod yn anniogel. Nid yw'r her yn syml y gall deallusrwydd artiffisial fod yn anghywir — mae clinigwyr yn delio ag ansicrwydd drwy'r amser — ond:

• Efallai nad yw gwallau'n amlwg
• Gall methiannau fod yn anghyson ac yn anodd eu hatgynhyrchu
• Gall fod yn anodd archwilio allbynnau yn ôl-weithredol
• Efallai bod cyfrifoldeb ac atebolrwydd yn aneglur

Mae fframweithiau llywodraethu gofal iechyd traddodiadol wedi'u hadeiladu o amgylch systemau penderfynol: algorithmau dilys, rhesymeg olrheiniadwy, dulliau methiant wedi'u diffinio. Nid yw deallusrwydd artiffisial cynhyrchiol yn methu yn yr un ffordd — ac nid yw ein gwiriadau a'n cydbwyseddau presennol wedi'u halinio'n dda â'r realiti hwn eto.

Syrthio Rhwng y Craciau: Meddalwedd nad yw'n "Dyfais Feddygol"

Mae risg arbennig o ddifrifol yn gorwedd gyda meddalwedd sy'n cael ei alluogi gan AI:

• Nid yw'n cael ei farchnata fel Meddalwedd fel Dyfais Feddygol (SaMD)
• Yn aml yn cael ei osod fel “cefnogaeth penderfyniadau” neu “gymorth llif gwaith”
• Fel arfer, mae'n eistedd i fyny neu i lawr o wneud penderfyniadau clinigol
• Wedi'i fewnosod o fewn meddalwedd canolradd, dangosfyrddau neu offer adrodd

Gall y systemau hyn ddylanwadu ar ba wybodaeth y mae clinigwr yn ei gweld yn gyntaf ac o bosibl sut mae canlyniadau'n cael eu crynhoi neu eu blaenoriaethu. Gall hyn yn ei dro lywio pa gamau gweithredu sy'n cael eu hawgrymu, eu dadflaenoriaethu neu eu huwchgyfeirio.

Er y gall effaith bosibl y systemau hyn fod yn ddofn, anaml y mae prosesau caffael gofal iechyd cyfredol yn mynnu digon o ddatgeliad o agweddau fel pensaernïaeth neu gyfyngiadau modelau, tarddiad data hyfforddi, llywodraethu data neu sut mae allbynnau AI yn cael eu dilysu, maent yn cael eu cyfyngu neu eu diystyru.

Y Bwlch Llywodraethu: Atebolrwydd, Cyfrifoldeb ac Ymddiriedaeth

Yn y DU, mae dyraniad atebolrwydd cyfreithiol a phroffesiynol am niwed i gleifion sy'n deillio o AI yn parhau i fod heb ei brofi i raddau helaeth. Os yw mewnwelediad a gynhyrchwyd gan AI yn cyfrannu at ddigwyddiad niweidiol:

• Pwy sy'n gyfrifol — y clinigwr, y sefydliad, y cyflenwr, neu'r model?
• A oedd yr allbwn yn gynghorol, yn gynorthwyol neu'n ddylanwadol?
• A oedd y system yn ddigon tryloyw ar gyfer goruchwyliaeth ddynol ystyrlon?

Ni all darparwyr gofal iechyd fforddio darganfod yr atebion i'r cwestiynau hyn yn ôl-weithredol, drwy ddigwyddiadau, ac nid yw dull strwythuredig, gwybodus a gofalus o fabwysiadu deallusrwydd artiffisial yn wrth-arloesi — mae o blaid diogelwch cleifion.

Sut Olwg Gallai Arfer Da fod ar gyfer Darparwyr Gofal Iechyd

Dylai sefydliadau gofal iechyd drin meddalwedd sy'n cael ei alluogi gan AI — boed wedi'i reoleiddio ai peidio — fel technoleg glinigol gyfagos a chymhwyso craffu cymesur. Mae arfer da yn cynnwys:

1. Gofynion Datgelu AI Eglur
Dylai prosesau caffael ei gwneud yn ofynnol i gyflenwyr ddatgan yn glir: A yw AI/LLMs yn cael eu defnyddio Ble maent yn eistedd yn y llif gwaith Pa benderfyniadau maen nhw'n dylanwadu arnynt

2. Defnydd a Ffiniau Bwriadedig Diffiniedig
Dylai fod gan ymarferoldeb AI bwrpas clir – ac eithriadau penodol.

3. Dynol-yn-y-Ddolen drwy Ddylunio
Dylai allbynnau AI gefnogi, nid disodli, barn ddynol — gyda chyfleoedd clir i herio a diystyru.

4. Archwiliadwyedd ac Olrhainadwyedd
Rhaid cofnodi allbynnau, bod yn esboniadwy ar lefel briodol, a bod yn adolygiadadwy ar ôl y ffaith.

5. Llywodraethu Data ac Asesiad Risg Gwybodaeth
Rhaid i ddata hyfforddi, llif data casgliadau, storio a chadw gyd-fynd â disgwyliadau llywodraethu gwybodaeth.

6. Goruchwyliaeth Barhaus, Nid Cymeradwyaeth Unigol
Mae systemau AI yn esblygu. Rhaid i lywodraethu ystyried diweddariadau, ailhyfforddi a symudiadau dros amser.

Mae sefydliadau fel y GIG yn gynyddol ymwybodol bod rhaid i lywodraethu deallusrwydd artiffisial ymestyn y tu hwnt i fframweithiau dyfeisiau meddygol traddodiadol ac i mewn i seilwaith digidol, gweithredol a diagnostig.

I ddatblygwyr a gwerthwyr, mae'n ymddangos y bydd ymddiriedaeth yn ffactor gwahaniaethol allweddol gan gydnabod nad yw darparwyr gofal iechyd yn gofyn am lai o arloesedd – maent yn gofyn am arloesedd cyfrifol. Gall hyn olygu:

• Dylunio nodweddion AI gyda chyfyngiadau diogelwch, nid gallu yn unig
• Bod yn dryloyw ynghylch cyfyngiadau, ansicrwydd a dulliau methiant
• Osgoi lleoli “blwch du” mewn cyd-destunau sy’n hanfodol i ddiogelwch
• Cyd-fynd â disgwyliadau llywodraethu gofal iechyd, nid eu hosgoi (mae hwn yn un hanfodol)
• Cefnogi darparwyr gyda dogfennaeth addas ar gyfer asesiad risg clinigol

Y neges allweddol yma i mi, yw na ddylai cyflenwyr gymryd yn ganiataol bod osgoi dosbarthu dyfeisiau meddygol yn dileu'r rhwymedigaeth i ddylunio ar gyfer diogelwch, archwiliadwyedd ac atebolrwydd. Mae AI yn cynnig potensial gwirioneddol a thrawsnewidiol ar gyfer gofal iechyd — o leihau baich gweinyddol i wella cysondeb, mynediad ac effeithlonrwydd ond rhaid i'w integreiddio i ecosystemau clinigol fod yn fwriadol, wedi'i lywodraethu a chanolbwyntio ar y claf.

Nid a fydd deallusrwydd artiffisial yn cael ei ddefnyddio yw’r her nawr, ond pa mor gyfrifol ydyw. Mae angen dull cydlynol arno. Un sy'n dwyn ynghyd glinigwyr, gwybodeg, timau llywodraethu, rheoleiddwyr a'r diwydiant. Hebddo, rydym mewn perygl o ymgorffori systemau tebygolrwydd pwerus mewn gofal iechyd yn ddiofyn yn hytrach nag yn ôl dyluniad.