Rhyfel algorithmau

O ran y defnydd o ddeallusrwydd artiffisial yn y fyddin, mae hunllef ffuglen wyddonol yn deffro ar unwaith, AI gwrthryfelgar a marwol sy'n codi yn erbyn dynoliaeth i'w ddinistrio. Yn anffodus, mae ofnau’r fyddin a’r arweinwyr y “bydd y gelyn yn dal i fyny â ni” yr un mor gryf yn natblygiad algorithmau rhyfela.

Rhyfela Algorithmiga allai, ym marn llawer, newid wyneb maes y gad yn sylfaenol fel yr ydym yn ei adnabod, yn bennaf oherwydd y byddai rhyfela yn dod yn gyflymach, ymhell ar y blaen i allu pobl i wneud penderfyniadau. cadfridog Americanaidd Jac Shanahan (1), mae pennaeth Cyd-ganolfan Deallusrwydd Artiffisial yr Unol Daleithiau, yn pwysleisio, fodd bynnag, cyn cyflwyno deallusrwydd artiffisial i arsenals, rhaid inni sicrhau bod y systemau hyn yn dal i fod dan reolaeth ddynol ac na fyddant yn dechrau rhyfeloedd ar eu pen eu hunain.

“Os oes gan y gelyn beiriannau ac algorithmau, byddwn yn colli'r gwrthdaro hwn”

Gallu gyrru rhyfela algorithmig yn seiliedig ar y defnydd o ddatblygiadau mewn technoleg gyfrifiadurol mewn tri phrif faes. Yn gyntaf degawdau o dwf esbonyddol mewn pŵer cyfrifiadurolmae hyn wedi gwella perfformiad dysgu peiriannau yn fawr. Yn ail twf cyflym mewn adnoddau “Data mawr”, hynny yw, setiau data enfawr, sydd fel arfer wedi’u hawtomeiddio, eu rheoli a’u creu’n barhaus sy’n addas ar gyfer dysgu peirianyddol. Mae'r trydydd yn ymwneud datblygiad cyflym technolegau cyfrifiadura cwmwl, lle gall cyfrifiaduron gael mynediad hawdd at adnoddau data a'u prosesu i ddatrys problemau.

Algorithm Rhyfelfel y'i diffinnir gan yr arbenigwyr, rhaid ei fynegi yn gyntaf gyda cod cyfrifiadur. Yn ail, rhaid iddo fod yn ganlyniad i lwyfan sy'n gallu casglu gwybodaeth a gwneud dewisiadau, gan wneud penderfyniadau nad oes eu hangen, mewn theori o leiaf. ymyrraeth ddynol. Yn drydydd, sy'n ymddangos yn amlwg, ond nid o reidrwydd felly, oherwydd dim ond ar waith y daw'n amlwg a all techneg a fwriedir ar gyfer rhywbeth arall fod yn ddefnyddiol mewn rhyfel ac i'r gwrthwyneb, rhaid iddi allu gweithio dan amodau. gwrthdaro arfog.

Mae dadansoddiad o'r cyfarwyddiadau uchod a'u rhyngweithiad yn dangos hynny rhyfela algorithmig nid yw’n dechnoleg ar wahân fel, er enghraifft. arf ynni neu taflegrau hypersonig. Mae ei effeithiau yn eang ac yn raddol yn dod yn hollbresennol mewn rhyfeloedd. Am y tro cyntaf cerbydau milwrol maent yn dod yn ddeallus, gan wneud y lluoedd amddiffyn sy'n eu gweithredu yn fwy effeithlon ac effeithiol o bosibl. Mae gan beiriannau deallus o'r fath gyfyngiadau clir y mae angen eu deall yn dda.

"" Dywedodd Shanahan y cwymp diwethaf mewn cyfweliad â chyn Brif Swyddog Gweithredol Google Eric Schmidt ac is-lywydd materion rhyngwladol Google, Kent Walker. "".

Mae adroddiad drafft Cyngor Diogelwch Cenedlaethol yr Unol Daleithiau ar AI yn cyfeirio at Tsieina dros 50 o weithiau, gan amlygu nod swyddogol Tsieina o ddod yn arweinydd byd-eang mewn AI erbyn 2030 (Gweld hefyd: ).

Llefarwyd y geiriau hyn yn Washington mewn cynhadledd arbennig a gynhaliwyd ar ôl i'r Ganolfan Shanakhan uchod gyflwyno ei hadroddiad rhagarweiniol i'r Gyngres, a baratowyd mewn cydweithrediad ag arbenigwyr enwog ym maes deallusrwydd artiffisial, gan gynnwys Cyfarwyddwr Ymchwil Microsoft Eric Horwitz, Prif Swyddog Gweithredol AWS Andy Jassa a Prif Ymchwilydd Google Cloud Andrew Moore. Cyhoeddir yr adroddiad terfynol ym mis Hydref 2020.

Mae gweithwyr Google yn protestio

Ychydig flynyddoedd yn ôl, cymerodd y Pentagon ran. rhyfela algorithmig a nifer o brosiectau sy'n gysylltiedig ag AI o dan brosiect Maven, yn seiliedig ar gydweithio â chwmnïau technoleg, gan gynnwys Google a chwmnïau newydd fel Clarifai. Roedd yn ymwneud yn bennaf â gweithio ar deallusrwydd artiffisiali hwyluso adnabod gwrthrychau ar.

Pan ddaeth yn hysbys am gyfranogiad Google yn y prosiect yng ngwanwyn 2018, llofnododd miloedd o weithwyr cawr Mountain View lythyr agored yn protestio yn erbyn cyfranogiad y cwmni mewn ymladd. Ar ôl misoedd o aflonyddwch llafur Mae Google wedi mabwysiadu ei set ei hun o reolau ar gyfer AIsy'n cynnwys gwaharddiad ar gymryd rhan mewn digwyddiadau.

Mae Google hefyd wedi ymrwymo i gwblhau contract Project Maven erbyn diwedd 2019. Ni ddaeth allanfa Google â Project Maven i ben. Fe'i prynwyd gan Palantir Peter Thiel. Mae'r Awyrlu a Chorfflu Morol yr Unol Daleithiau yn bwriadu defnyddio cerbydau awyr di-griw arbennig, fel y Global Hawk, fel rhan o brosiect Maven, y mae pob un ohonynt i fod i fonitro hyd at 100 cilomedr sgwâr yn weledol.

Ar achlysur yr hyn sy'n digwydd o amgylch Project Maven, daeth yn amlwg bod angen ei gwmwl ei hun ar frys ar fyddin yr Unol Daleithiau. Dyma a ddywedodd Shanahan yn ystod y gynhadledd. Roedd hyn yn amlwg pan fu'n rhaid cludo lluniau fideo a diweddariadau system i osodiadau milwrol wedi'u gwasgaru ar draws y maes. Mewn adeiladu cyfrifiadura cwmwl unedig, a fydd yn helpu i ddatrys problemau o'r math hwn, fel rhan o brosiect seilwaith TG unedig ar gyfer byddin Jedi, Microsoft, Amazon, Oracle ac IBM. Nid yw Google oherwydd eu codau moesegol.

Mae'n amlwg o ddatganiad Shanahan mai megis dechrau y mae'r chwyldro AI mawr yn y fyddin. Ac mae rôl ei chanolfan yn lluoedd arfog yr Unol Daleithiau yn tyfu. Mae hyn i'w weld yn glir yn y gyllideb JAIC amcangyfrifedig. Yn 2019, roedd yn gyfanswm o ychydig o dan $90 miliwn. Yn 2020, dylai eisoes fod yn $ 414 miliwn, neu tua 10 y cant o gyllideb AI $ 4 biliwn y Pentagon.

Mae'r peiriant yn adnabod milwr a ildiwyd

Mae gan filwyr yr Unol Daleithiau eisoes systemau fel y Phalanx (2), sef math o arf ymreolaethol a ddefnyddir ar longau Llynges yr UD i ymosod ar daflegrau sy'n dod i mewn. Pan ganfyddir taflegryn, mae'n troi ymlaen yn awtomatig ac yn dinistrio popeth yn ei lwybr. Yn ôl Ford, fe all ymosod gyda phedwar neu bump o daflegrau mewn hanner eiliad heb orfod mynd drwodd ac edrych ar bob targed.

Enghraifft arall yw'r Harpy lled-ymreolaethol (3), system fasnachol ddi-griw. Defnyddir y delyn i ddinistrio radar y gelyn. Er enghraifft, yn 2003, pan lansiodd yr Unol Daleithiau streic ar Irac a oedd â systemau rhyng-gipio radar yn yr awyr, helpodd dronau a wnaed gan Israel i ddod o hyd iddynt a'u dinistrio fel y gallai'r Americanwyr hedfan yn ddiogel i ofod awyr Irac.

3. Lansio drôn system IAI Harpy

Enghraifft adnabyddus arall o arfau ymreolaethol yw System Corea Samsung SGR-1, Wedi'i leoli yn y parth demilitarized rhwng Gogledd a De Korea, a gynlluniwyd i nodi a thanio tresmaswyr ar bellter o hyd at bedwar cilomedr. Yn ôl y disgrifiad, gall y system "wahaniaethu rhwng person sy'n ildio a pherson nad yw'n ildio" yn seiliedig ar leoliad eu dwylo neu adnabyddiaeth o safle'r arf yn eu dwylo.

4. Arddangosiad o ganfod milwr ildio gan system Samsung SGR-1

Mae Americanwyr yn ofni cael eu gadael ar ôl

Ar hyn o bryd, mae o leiaf 30 o wledydd ledled y byd yn defnyddio arfau awtomatig gyda gwahanol lefelau o ddatblygiad a defnydd o AI. Mae Tsieina, Rwsia a'r Unol Daleithiau yn gweld deallusrwydd artiffisial fel elfen anhepgor wrth adeiladu eu safle yn y byd yn y dyfodol. “Bydd pwy bynnag sy’n ennill y ras AI yn rheoli’r byd,” meddai Arlywydd Rwseg Vladimir Putin wrth fyfyrwyr ym mis Awst 2017. Nid yw Llywydd Gweriniaeth Pobl Tsieina, Xi Jinping, wedi gwneud datganiadau mor amlwg yn y cyfryngau, ond ef yw prif yrrwr y gyfarwyddeb sy'n galw am Tsieina i ddod yn brif rym ym maes AI erbyn 2030.

Mae pryder cynyddol yn yr Unol Daleithiau am yr “effaith lloeren”, sydd wedi dangos bod yr Unol Daleithiau yn hynod o brin o offer i gwrdd â'r heriau newydd a achosir gan ddeallusrwydd artiffisial. A gall hyn fod yn beryglus i heddwch, os mai dim ond oherwydd bod y wlad sydd dan fygythiad o dra-arglwyddiaeth efallai am ddileu mantais strategol y gelyn mewn ffordd arall, hynny yw, trwy ryfel.

Er mai pwrpas gwreiddiol prosiect Maven oedd helpu i ddod o hyd i ymladdwyr Islamaidd ISIS, mae ei arwyddocâd ar gyfer datblygiad pellach systemau deallusrwydd artiffisial milwrol yn enfawr. Mae rhyfela electronig sy'n seiliedig ar recordwyr, monitorau a synwyryddion (gan gynnwys rhai symudol, hedfan) yn gysylltiedig â nifer enfawr o lifoedd data heterogenaidd, na ellir ond eu defnyddio'n effeithiol gyda chymorth algorithmau AI.

Mae maes y frwydr hybrid wedi dod fersiwn milwrol o IoT, yn gyfoethog mewn gwybodaeth bwysig ar gyfer asesu bygythiadau a chyfleoedd tactegol a strategol. Mae gallu rheoli'r data hwn mewn amser real yn dod â manteision mawr, ond gall methu â dysgu o'r wybodaeth hon fod yn drychinebus. Mae'r gallu i brosesu llif gwybodaeth yn gyflym o wahanol lwyfannau sy'n gweithredu mewn sawl maes yn darparu dwy brif fantais filwrol: cyflymder i reachability. Mae deallusrwydd artiffisial yn caniatáu ichi ddadansoddi amodau deinamig maes y gad mewn amser real a tharo'n gyflym ac yn optimaidd, wrth leihau'r risg i'ch lluoedd eich hun.

Mae'r frwydr newydd hon hefyd yn hollbresennol a. Mae AI wrth wraidd yr heidiau drone fel y'u gelwir, sydd wedi cael llawer o sylw yn ystod y blynyddoedd diwethaf. Gyda chymorth synwyryddion hollbresennol, nid yn unig yn caniatáu dronau i lywio tir gelyniaethus, ond gall yn y pen draw yn caniatáu i ffurfio ffurfiannau cymhleth o wahanol fathau o gerbydau awyr di-griw yn gweithredu mewn llawer o ardaloedd, gydag arfau ychwanegol sy'n caniatáu tactegau ymladd soffistigedig, ar unwaith addasu i'r gelyn. symudiadau i fanteisio ar faes y gad ac adrodd am amodau newidiol.

Mae datblygiadau mewn dynodiad targed a mordwyo gyda chymorth AI hefyd yn gwella'r rhagolygon ar gyfer effeithiolrwydd mewn ystod eang o systemau amddiffyn tactegol a strategol, yn enwedig amddiffyn taflegrau, trwy wella'r dulliau o ganfod, olrhain a nodi targedau.

yn cynyddu pŵer efelychiadau ac offer hapchwarae a ddefnyddir i ymchwilio i arfau niwclear a chonfensiynol yn gyson. Bydd modelu ac efelychu torfol yn hanfodol i ddatblygu system gynhwysfawr aml-barth o systemau targed ar gyfer rheoli ymladd a theithiau cymhleth. Mae AI hefyd yn cyfoethogi rhyngweithiadau aml-blaid (5). Mae'r AI yn caniatáu i chwaraewyr ychwanegu ac addasu newidynnau gêm i archwilio sut y gall amodau deinamig (arfau, cyfranogiad cysylltiedig, milwyr ychwanegol, ac ati) effeithio ar berfformiad a gwneud penderfyniadau.

Ar gyfer y fyddin, mae adnabod gwrthrychau yn fan cychwyn naturiol ar gyfer AI. Yn gyntaf, mae angen dadansoddiad cynhwysfawr a chyflym o'r nifer cynyddol o ddelweddau a gwybodaeth a gesglir o loerennau a dronau er mwyn dod o hyd i wrthrychau o arwyddocâd milwrol, megis taflegrau, symudiadau milwyr a data arall sy'n ymwneud â chudd-wybodaeth. Heddiw, mae maes y gad yn rhychwantu pob tirwedd—môr, tir, aer, gofod, a seiberofod—ar raddfa fyd-eang.

Seiberofodfel parth digidol yn ei hanfod, mae'n naturiol addas ar gyfer cymwysiadau AI. Ar yr ochr dramgwyddus, gall AI helpu i ddod o hyd i nodau rhwydwaith unigol neu gyfrifon unigol a'u targedu i'w casglu, tarfu neu gam-hysbysu. Gall ymosodiadau seiber ar seilwaith mewnol a rhwydweithiau gorchymyn fod yn drychinebus. O ran amddiffyn, gall AI helpu i ganfod ymwthiadau o'r fath a dod o hyd i anghysondebau dinistriol mewn systemau gweithredu sifil a milwrol.

Cyflymder disgwyliedig a pheryglus

Fodd bynnag, efallai na fydd gwneud penderfyniadau cyflym a gweithredu prydlon o fudd i chi. ar gyfer rheoli argyfwng yn effeithiol. Efallai na fydd manteision deallusrwydd artiffisial a systemau ymreolaethol ar faes y gad yn caniatáu amser ar gyfer diplomyddiaeth, sydd, fel y gwyddom o hanes, yn aml wedi bod yn llwyddiannus fel modd o atal neu reoli argyfwng. Yn ymarferol, gall arafu, saib, ac amser i drafod fod yn allweddol i fuddugoliaeth, neu o leiaf osgoi trychineb, yn enwedig pan fo arfau niwclear yn y fantol.

Ni ellir gadael penderfyniadau am ryfel a heddwch i ddadansoddeg ragfynegol. Mae gwahaniaethau sylfaenol yn y ffordd y defnyddir data at ddibenion gwyddonol, economaidd, logistaidd a rhagfynegol. ymddygiad dynol.

Efallai y bydd rhai yn gweld AI fel grym sy'n gwanhau sensitifrwydd strategol i'r ddwy ochr ac felly'n cynyddu'r risg o ryfel. Gall data sydd wedi’i lygru’n ddamweiniol neu’n fwriadol achosi i systemau AI gyflawni gweithredoedd anfwriadol, megis cam-nodi a thargedu’r targedau anghywir. Gall cyflymder y gweithredu a ragdybir yn achos datblygiad algorithmau rhyfel olygu cynamserol neu hyd yn oed waethygu diangen sy'n rhwystro rheolaeth resymegol yr argyfwng. Ar y llaw arall, ni fydd algorithmau hefyd yn aros ac yn esbonio, oherwydd disgwylir iddynt hefyd fod yn gyflym.

Agwedd aflonyddu gweithrediad algorithmau deallusrwydd artiffisial hefyd a gyflwynwyd gennym ni yn ddiweddar yn MT. Nid yw hyd yn oed arbenigwyr yn gwybod yn union sut mae AI yn arwain at y canlyniadau a welwn yn yr allbwn.

Yn achos algorithmau rhyfel, ni allwn fforddio anwybodaeth o'r fath am natur a sut y maent yn eu "meddwl". Nid ydym am ddeffro yng nghanol y nos i fflachiadau niwclear oherwydd bod "ein" neu "eu" deallusrwydd artiffisial wedi penderfynu ei bod hi'n bryd setlo'r gêm o'r diwedd.