Nid yw deallusrwydd artiffisial yn dilyn rhesymeg cynnydd gwyddonol

Rydym wedi ysgrifennu sawl gwaith yn MT am ymchwilwyr a gweithwyr proffesiynol sy'n cyhoeddi systemau dysgu peirianyddol fel “blychau du” (1) hyd yn oed i'r rhai sy'n eu hadeiladu. Mae hyn yn ei gwneud hi'n anodd gwerthuso canlyniadau ac ailddefnyddio algorithmau sy'n dod i'r amlwg.

Mae rhwydweithiau niwral - y dechneg sy'n rhoi botiau trosi deallus inni a chynhyrchwyr testun dyfeisgar a all hyd yn oed greu barddoniaeth - yn parhau i fod yn ddirgelwch annealladwy i arsylwyr allanol.

Maent yn mynd yn fwy ac yn fwy cymhleth, yn trin setiau data enfawr, ac yn defnyddio araeau cyfrifiadurol enfawr. Mae hyn yn gwneud dyblygu a dadansoddi'r modelau a gafwyd yn gostus ac weithiau'n amhosibl i ymchwilwyr eraill, ac eithrio canolfannau mawr gyda chyllidebau enfawr.

Mae llawer o wyddonwyr yn ymwybodol iawn o'r broblem hon. Yn eu plith mae Joel Pino (2), cadeirydd NeurIPS, y brif gynhadledd ar atgynhyrchu. Mae'r arbenigwyr o dan ei harweinyddiaeth am greu "rhestr wirio atgynhyrchu".

Y syniad, yn ôl Pino, yw annog ymchwilwyr i gynnig map ffordd i eraill fel y gallan nhw ail-greu a defnyddio'r gwaith sydd wedi'i wneud eisoes. Gallwch ryfeddu at huodledd generadur testun newydd neu ystwythder goruwchddynol robot gêm fideo, ond nid oes gan hyd yn oed yr arbenigwyr gorau unrhyw syniad sut mae'r rhyfeddodau hyn yn gweithio. Felly, mae atgynhyrchu modelau AI yn bwysig nid yn unig ar gyfer nodi nodau a chyfarwyddiadau newydd ar gyfer ymchwil, ond hefyd fel canllaw ymarferol pur i'w ddefnyddio.

Mae eraill yn ceisio datrys y broblem hon. Cynigiodd ymchwilwyr Google "cardiau model" i ddisgrifio'n fanwl sut y profwyd y systemau, gan gynnwys canlyniadau sy'n tynnu sylw at fygiau posibl. Mae ymchwilwyr yn Sefydliad Allen ar gyfer Deallusrwydd Artiffisial (AI2) wedi cyhoeddi papur sy'n anelu at ymestyn rhestr wirio atgynhyrchu Pinot i gamau eraill yn y broses arbrofol. “Dangoswch eich gwaith,” maen nhw'n annog.

Weithiau mae gwybodaeth sylfaenol ar goll oherwydd bod y prosiect ymchwil yn eiddo, yn enwedig gan labordai sy'n gweithio i'r cwmni. Yn amlach, fodd bynnag, mae’n arwydd o anallu i ddisgrifio dulliau ymchwil cyfnewidiol a chynyddol gymhleth. Mae rhwydweithiau niwral yn faes cymhleth iawn. Er mwyn cael y canlyniadau gorau, yn aml mae angen tiwnio miloedd o "blymiau a botymau", y mae rhai yn eu galw'n "hud du". Mae dewis y model gorau posibl yn aml yn gysylltiedig â nifer fawr o arbrofion. Mae hud yn dod yn ddrud iawn.

Er enghraifft, pan geisiodd Facebook ailadrodd gwaith AlphaGo, system a ddatblygwyd gan DeepMind Alphabet, bu'r dasg yn hynod o anodd. Roedd gofynion cyfrifiannol enfawr, miliynau o arbrofion ar filoedd o ddyfeisiau dros lawer o ddyddiau, ynghyd â diffyg cod, yn gwneud y system yn "anodd iawn, os nad yn amhosibl, i ail-greu, profi, gwella ac ymestyn," yn ôl gweithwyr Facebook.

Mae'n ymddangos bod y broblem yn un arbenigol. Fodd bynnag, os meddyliwn ymhellach, mae ffenomen y problemau o ran atgynhyrchu canlyniadau a swyddogaethau rhwng un tîm ymchwil ac un arall yn tanseilio holl resymeg gweithrediad prosesau gwyddoniaeth ac ymchwil sy'n hysbys i ni. Fel rheol, gellir defnyddio canlyniadau ymchwil blaenorol fel sail ar gyfer ymchwil bellach sy'n ysgogi datblygiad gwybodaeth, technoleg a chynnydd cyffredinol.