Dywedwch wrth eich cath fach beth yw eich barn y tu mewn - effaith y blwch du

Mae'r ffaith bod algorithmau AI datblygedig fel blwch du (1) sy'n taflu canlyniad heb ddatgelu sut y daeth i fod yn poeni rhai ac yn cynhyrfu eraill.

Yn 2015, gofynnwyd i dîm ymchwil yn Ysbyty Mount Sinai yn Efrog Newydd ddefnyddio'r dull hwn i ddadansoddi cronfa ddata helaeth o gleifion lleol (2). Mae'r casgliad enfawr hwn yn cynnwys cefnfor o wybodaeth i gleifion, canlyniadau profion, presgripsiynau meddyg, a mwy.

Galwodd gwyddonwyr y rhaglen ddadansoddol a ddatblygwyd yn ystod y gwaith. Hyfforddodd ar ddata gan tua 700 o bobl. dynol, a phan gaiff ei brofi mewn cofrestrfeydd newydd, mae wedi profi i fod yn hynod effeithiol wrth ragfynegi afiechyd. Heb gymorth arbenigwyr dynol, darganfu batrymau yng nghofnodion ysbytai sy'n nodi pa glaf sydd ar y llwybr i glefyd, fel canser yr afu. Yn ôl arbenigwyr, roedd effeithlonrwydd prognostig a diagnostig y system yn llawer uwch nag unrhyw ddulliau hysbys eraill.

2. System deallusrwydd artiffisial meddygol yn seiliedig ar gronfeydd data cleifion

Ar yr un pryd, sylwodd yr ymchwilwyr ei fod yn gweithio mewn ffordd ddirgel. Mae'n troi allan, er enghraifft, ei fod yn ddelfrydol ar gyfer adnabod anhwylderau meddwlmegis sgitsoffrenia, sy'n hynod o anodd i feddygon. Roedd hyn yn syndod, yn enwedig gan nad oedd gan neb unrhyw syniad sut y gallai'r system AI weld salwch meddwl mor dda yn seiliedig ar gofnodion meddygol y claf yn unig. Oedd, roedd yr arbenigwyr yn falch iawn gyda chymorth diagnostegydd peiriant mor effeithlon, ond byddent yn llawer mwy bodlon pe baent yn deall sut mae'r AI yn dod i'w gasgliadau.

Haenau o niwronau artiffisial

O'r cychwyn cyntaf, hynny yw, o'r eiliad y daeth y cysyniad o ddeallusrwydd artiffisial yn hysbys, roedd dau safbwynt ar AI. Awgrymodd y cyntaf y byddai'n fwyaf rhesymol adeiladu peiriannau sy'n rhesymu yn unol ag egwyddorion hysbys a rhesymeg ddynol, gan wneud eu gweithrediadau mewnol yn dryloyw i bawb. Credai eraill y byddai cudd-wybodaeth yn dod i'r amlwg yn haws pe bai peiriannau'n dysgu trwy arsylwi ac arbrofi dro ar ôl tro.

Mae'r olaf yn golygu gwrthdroi rhaglennu cyfrifiadurol nodweddiadol. Yn lle bod y rhaglennydd yn ysgrifennu gorchmynion i ddatrys problem, mae'r rhaglen yn cynhyrchu algorithm ei hun yn seiliedig ar ddata sampl a'r canlyniad dymunol. Mae dulliau dysgu peiriannau a ddatblygodd yn ddiweddarach i'r systemau AI mwyaf pwerus y gwyddys amdanynt heddiw newydd fynd i lawr y llwybr, mewn gwirionedd, rhaglenni y peiriant ei hun.

Arhosodd y dull hwn ar ymylon ymchwil systemau AI yn y 60au a'r 70au. Dim ond ar ddechrau'r ddegawd flaenorol, ar ôl rhai newidiadau a gwelliannau arloesol, Rhwydweithiau niwral "dwfn". dechrau dangos gwelliant radical yng ngalluoedd canfyddiad awtomataidd. 

Mae dysgu peirianyddol dwfn wedi cynysgaeddu cyfrifiaduron â galluoedd rhyfeddol, fel y gallu i adnabod geiriau llafar bron mor gywir â dynol. Mae hwn yn sgil rhy gymhleth i'w raglennu o flaen amser. Rhaid i'r peiriant allu creu ei "raglen" ei hun erbyn hyfforddiant ar setiau data enfawr.

Mae dysgu dwfn hefyd wedi newid adnabyddiaeth delwedd gyfrifiadurol ac wedi gwella ansawdd cyfieithu peirianyddol yn fawr. Heddiw, fe'i defnyddir i wneud pob math o benderfyniadau allweddol mewn meddygaeth, cyllid, gweithgynhyrchu, a mwy.

Fodd bynnag, gyda hyn i gyd ni allwch edrych y tu mewn i rwydwaith niwral dwfn i weld sut mae "tu mewn" yn gweithio. Mae prosesau rhesymu rhwydwaith wedi'u gwreiddio yn ymddygiad miloedd o niwronau efelychiedig, wedi'u trefnu'n ddwsinau neu hyd yn oed gannoedd o haenau cydgysylltiedig cywrain..

Mae pob un o'r niwronau yn yr haen gyntaf yn derbyn mewnbwn, fel dwyster picsel mewn delwedd, ac yna'n gwneud cyfrifiadau cyn allbynnu'r allbwn. Fe'u trosglwyddir mewn rhwydwaith cymhleth i niwronau'r haen nesaf - ac yn y blaen, tan y signal allbwn terfynol. Yn ogystal, mae yna broses a elwir yn addasu'r cyfrifiadau a gyflawnir gan niwronau unigol fel bod y rhwydwaith hyfforddi yn cynhyrchu'r canlyniad a ddymunir.

Mewn enghraifft a ddyfynnir yn aml yn ymwneud ag adnabod delweddau cŵn, mae'r lefelau is o AI yn dadansoddi nodweddion syml megis siâp neu liw. Mae'r rhai uwch yn delio â materion mwy cymhleth fel ffwr neu lygaid. Dim ond yr haen uchaf sy'n dod â'r cyfan at ei gilydd, gan nodi'r set lawn o wybodaeth fel ci.

Gellir cymhwyso'r un dull at fathau eraill o fewnbwn sy'n pweru'r peiriant i ddysgu ei hun: synau sy'n ffurfio geiriau llafar, llythrennau a geiriau sy'n ffurfio brawddegau mewn testun ysgrifenedig, neu llyw, er enghraifft. symudiadau angenrheidiol i yrru cerbyd.

Nid yw'r car yn hepgor unrhyw beth.

Ceisir egluro beth yn union sy'n digwydd mewn systemau o'r fath. Yn 2015, addasodd ymchwilwyr yn Google algorithm adnabod delweddau dysgu dwfn fel ei fod yn eu cynhyrchu neu eu haddasu yn lle gweld gwrthrychau mewn lluniau. Trwy redeg yr algorithm yn ôl, roedden nhw eisiau darganfod y nodweddion y mae'r rhaglen yn eu defnyddio i adnabod, dyweder, aderyn neu adeilad.

Cynhyrchodd yr arbrofion hyn, a adwaenir yn gyhoeddus fel y teitl, ddarluniau rhyfeddol o (3) anifeiliaid grotesg, rhyfedd, tirweddau a chymeriadau. Trwy ddatgelu rhai o gyfrinachau canfyddiad peiriannau, megis y ffaith bod patrymau penodol yn cael eu dychwelyd a'u hailadrodd dro ar ôl tro, maent hefyd yn dangos sut mae dysgu peirianyddol dwfn yn wahanol i ganfyddiad dynol - er enghraifft, yn yr ystyr ei fod yn ehangu ac yn dyblygu arteffactau yr ydym yn eu hanwybyddu. yn ein proses o ganfyddiad heb feddwl . .

3. Delwedd a grëwyd yn y prosiect

Gyda llaw, ar y llaw arall, mae'r arbrofion hyn wedi datrys dirgelwch ein mecanweithiau gwybyddol ein hunain. Efallai ei fod yn ein canfyddiad ni fod yna wahanol gydrannau annealladwy sy'n gwneud i ni ddeall ac anwybyddu rhywbeth ar unwaith, tra bod y peiriant yn ailadrodd ei ailadroddiadau yn amyneddgar ar wrthrychau “dibwys”.

Cynhaliwyd profion ac astudiaethau eraill mewn ymgais i "ddeall" y peiriant. Jason Yosinski creodd offeryn sy'n gweithredu fel stiliwr yn sownd yn yr ymennydd, gan dargedu unrhyw niwron artiffisial a chwilio am y ddelwedd sy'n ei actifadu gryfaf. Yn yr arbrawf diwethaf, ymddangosodd delweddau haniaethol o ganlyniad i “sbecian” y rhwydwaith yn goch, a wnaeth y prosesau a oedd yn digwydd yn y system hyd yn oed yn fwy dirgel.

Fodd bynnag, i lawer o wyddonwyr, mae astudiaeth o'r fath yn gamddealltwriaeth, oherwydd, yn eu barn nhw, er mwyn deall y system, i adnabod patrymau a mecanweithiau gorchymyn uwch o wneud penderfyniadau cymhleth, pob rhyngweithiad cyfrifiadurol y tu mewn i rwydwaith niwral dwfn. Mae'n ddrysfa enfawr o ffwythiannau a newidynnau mathemategol. Ar hyn o bryd, mae'n annealladwy i ni.

Ni fydd cyfrifiadur yn cychwyn? Pam?

Pam ei bod yn bwysig deall mecanweithiau gwneud penderfyniadau systemau deallusrwydd artiffisial uwch? Mae modelau mathemategol eisoes yn cael eu defnyddio i benderfynu pa garcharorion y gellir eu rhyddhau ar barôl, pwy all gael benthyciad, a phwy all gael swydd. Hoffai’r rhai sydd â diddordeb wybod pam y gwnaed y penderfyniad hwn ac nid penderfyniad arall, beth yw ei seiliau a’i fecanwaith.

cyfaddefodd ym mis Ebrill 2017 yn Adolygiad Technoleg MIT. Tommy Yaakkola, athro MIT sy'n gweithio ar gymwysiadau ar gyfer dysgu peiriannau. -.

Mae hyd yn oed safbwynt cyfreithiol a gwleidyddol bod y gallu i graffu a deall mecanwaith gwneud penderfyniadau systemau AI yn hawl ddynol sylfaenol.

Ers 2018, mae'r UE wedi bod yn gweithio ar ei gwneud yn ofynnol i gwmnïau ddarparu esboniadau i'w cwsmeriaid am benderfyniadau a wneir gan systemau awtomataidd. Mae'n ymddangos nad yw hyn yn bosibl weithiau hyd yn oed gyda systemau sy'n ymddangos yn gymharol syml, megis apps a gwefannau sy'n defnyddio gwyddoniaeth ddofn i ddangos hysbysebion neu argymell caneuon.

Mae'r cyfrifiaduron sy'n rhedeg y gwasanaethau hyn yn rhaglennu eu hunain, ac maen nhw'n ei wneud mewn ffyrdd na allwn ni eu deall... Ni all hyd yn oed y peirianwyr sy'n creu'r cymwysiadau hyn esbonio'n llawn sut mae'n gweithio.