Mae ysbryd llofrudd y peiriant yn parhau. Beth mae'r Arlywydd Putin yn ei gredu?

Mae cynigwyr robotiaid milwrol (1) yn dadlau bod arfau awtomataidd yn darparu mwy o opsiynau ar gyfer amddiffyn bywyd dynol. Mae peiriannau'n gallu dod yn agosach at y gelyn na milwyr, ac asesu'r bygythiad yn gywir. Ac mae emosiynau weithiau'n parlysu'r gallu i wneud y penderfyniadau cywir.

Mae llawer o eiriolwyr defnyddio robotiaid lladd yn credu'n gryf y byddan nhw'n gwneud rhyfeloedd yn llai gwaedlyd oherwydd bydd llai o filwyr yn marw. Maent yn nodi bod y robotiaid, er nad ydynt yn teimlo trueni, yn imiwn i emosiynau dynol negyddol fel panig, dicter, a dial, sy'n aml yn arwain at droseddau rhyfel.

Mae gweithredwyr hawliau dynol hefyd yn defnyddio'r ddadl bod y fyddin wedi arwain at ostyngiad enfawr mewn anafusion sifil yn ystod yr hanner canrif ddiwethaf, ac mae roboteiddio'r fyddin yn caniatáu mecanwaith i orfodi deddfau rhyfel yn llymach. Maen nhw'n honni y bydd peiriannau'n dod yn foesegol pan fydd ganddyn nhw feddalwedd a fydd yn eu gorfodi i ufuddhau i gyfreithiau rhyfel.

Wrth gwrs, nid yw nifer fawr o bobl, gan gynnwys rhai enwog iawn, yn rhannu'r farn hon ers blynyddoedd. Ym mis Ebrill 2013, lansiwyd ymgyrch ryngwladol o dan y slogan (2). O fewn ei fframwaith, mae sefydliadau anllywodraethol yn mynnu gwaharddiad llwyr ar ddefnyddio arfau ymreolaethol. Eisteddodd arbenigwyr o lawer o wledydd i lawr i drafod y pwnc hwn am y tro cyntaf yng Nghynhadledd y Cenhedloedd Unedig ar Ddiarfogi yng Ngenefa ym mis Mai 2014. Dywedodd adroddiad a gyhoeddwyd ychydig fisoedd yn ddiweddarach gan Human Rights Watch a gwyddonwyr o Brifysgol Harvard y byddai’r rhai ymreolaethol yn rhy beryglus – fe ddewison nhw eu targedau eu hunain a lladd pobol. Ar yr un pryd, nid yw'n glir iawn pwy ddylai gael ei ddal yn atebol.

2. Arddangosiad fel rhan o'r weithred "Stop killer robots"

Yr hyn y gall haid o dronau bach ei wneud

Mae anghydfodau ynghylch robotiaid lladd (ROU) wedi bod yn digwydd ers blynyddoedd ac nid ydynt yn diflannu. Mae'r misoedd diwethaf wedi dod ag ymdrechion newydd i atal robotiaid milwrol a thon o adroddiadau am brosiectau newydd o'r math hwn, y mae rhai ohonynt hyd yn oed yn cael eu profi mewn amodau ymladd go iawn.

Ym mis Tachwedd 2017, dangosodd fideo heidiau marwol o dronau bach ., mewn gweithred ddychrynllyd. Gwelodd gwylwyr nad oes arnom angen y peiriannau rhyfel trwm, y tanciau, na'r taflegrau a daflwyd gan yr Ysglyfaethwyr i ladd en masse a gyda gynnau peiriant mwyach. Dywed y cyfarwyddwr arweiniol Stuart Russell, athro deallusrwydd artiffisial yn Berkeley:

-

Y gwanwyn diwethaf hanner cant o athrawon Mae prifysgolion mwyaf blaenllaw'r byd wedi arwyddo apêl i Sefydliad Gwyddoniaeth a Thechnoleg Uwch Corea (KAIST) a'i bartner Hanwha Systems. cyhoeddasant na fyddent yn cydweithredu â'r brifysgol ac yn cynnal gwesteion KAIST. Y rheswm oedd adeiladu "arfau ymreolaethol" a gynhaliwyd gan y ddau sefydliad. Gwadodd KAIST yr adroddiadau yn y cyfryngau.

Yn fuan wedi hynny yn yr Unol Daleithiau mwy na 3 o weithwyr Google protestio yn erbyn gwaith y cwmni ar gyfer y fyddin. Roeddent yn pryderu bod Google yn partneru â phrosiect gan y llywodraeth o'r enw Maven sy'n ceisio defnyddio AI i adnabod gwrthrychau ac wynebau mewn fideos drone milwrol. Dywed rheolwyr y cwmni mai nod Maven yw achub bywydau ac achub pobl rhag gwaith diflas, nid ymddygiad ymosodol. Nid oedd y protestwyr yn argyhoeddedig.

Rhan nesaf y frwydr oedd y datganiad arbenigwyr deallusrwydd artiffisial, gan gynnwys. gweithio ar brosiect Google a Elona Muska. Maen nhw'n addo peidio â datblygu robotiaid. Maen nhw hefyd yn galw ar lywodraethau i gynyddu ymdrechion i reoleiddio a chyfyngu ar yr arfau hyn.

Mae'r datganiad yn dweud, yn rhannol, "na ddylai'r penderfyniad i gymryd bywyd dynol byth gael ei gymryd gan beiriant." Er bod gan fyddinoedd y byd lawer o ddyfeisiau awtomatig, weithiau gyda lefel uchel o ymreolaeth, mae llawer o arbenigwyr yn ofni y gallai'r dechnoleg hon ddod yn gwbl ymreolaethol yn y dyfodol, gan ganiatáu lladd heb unrhyw weithredwr dynol a rheolwr yn cymryd rhan.

Mae arbenigwyr hefyd yn rhybuddio y gallai peiriannau lladd ymreolaethol fod hyd yn oed yn fwy peryglus nag “arfau niwclear, cemegol a biolegol” oherwydd eu bod yn gallu troi allan o reolaeth yn hawdd. Yn gyfan gwbl, ym mis Gorffennaf y llynedd, llofnodwyd llythyr o dan nawdd y Sefydliad Dyfodol Bywyd (FGI) gan 170 o sefydliadau a 2464 o unigolion. Yn ystod misoedd cynnar 2019, galwodd grŵp o wyddonwyr meddygol sy'n gysylltiedig â FLI eto am lythyr newydd yn gwahardd datblygu arfau a reolir gan ddeallusrwydd artiffisial (AI).

Daeth cyfarfod y Cenhedloedd Unedig fis Awst y llynedd yn Gniewo ar reoleiddio cyfreithiol posibl "robotiaid llofrudd" i ben yn llwyddiant ... peiriannau. Fe wnaeth grŵp o wledydd, gan gynnwys yr Unol Daleithiau, Rwsia ac Israel, rwystro gwaith pellach ar gyflwyno gwaharddiad rhyngwladol ar yr arfau hyn (Confensiwn drafft ar Wahardd neu Gyfyngu ar Ddefnyddio Arfau Confensiynol Penodol, CCGC). Nid yw'n gyd-ddigwyddiad bod y gwledydd hyn yn adnabyddus am eu gwaith ar systemau uwch o arfau ymreolaethol a robotig.

Mae Rwsia yn canolbwyntio ar robotiaid ymladd

Yn aml dyfynnir yr Arlywydd Vladimir Putin yn dweud am systemau AI milwrol a robotiaid ymladd:

-.

yn siarad yn agored am ddatblygiad arfau ymreolaethol. Yn ddiweddar, dywedodd pennaeth Staff Cyffredinol ei luoedd arfog, y Cadfridog Valery Gerasimov, wrth yr asiantaeth newyddion milwrol Interfax-AVN y bydd defnyddio robotiaid yn un o brif nodweddion rhyfeloedd y dyfodol. Ychwanegodd fod Rwsia yn ceisio awtomeiddio maes y gad yn llawn. Gwnaethpwyd sylwadau tebyg gan y Dirprwy Brif Weinidog Dmitry Rogozin a’r Gweinidog Amddiffyn Sergei Shoigu. Dywedodd Cadeirydd y Cyngor Ffederasiwn Pwyllgor ar Amddiffyn a Diogelwch Viktor Bondarev fod Rwsia yn ymdrechu i ddatblygu Technolegau "Rwy'n rhoi genedigaethbyddai hyn yn caniatáu i rwydweithiau dronau weithredu fel un endid.

Nid yw hyn yn syndod os cofiwn i'r teletanciau cyntaf gael eu datblygu yn yr Undeb Sofietaidd yn y 30au. Fe'u defnyddiwyd ar ddechrau'r Ail Ryfel Byd. Heddiw mae Rwsia hefyd yn creu robotiaid tanc dod yn fwyfwy ymreolaethol.

Yn ddiweddar anfonodd talaith Putin ei rhai ei hun i Syria Cerbyd ymladd di-griw Uran-9 (3). collodd y ddyfais gysylltiad â phwyntiau rheoli daear, cafodd broblemau gyda'r system atal, ac nid oedd ei arfau'n gweithio'n berffaith ac nid oedd yn cyrraedd targedau symud. Nid yw'n swnio'n ddifrifol iawn, ond mae llawer yn ystyried y weipar Syria yn brawf ymladd da a fydd yn caniatáu i'r Rwsiaid wella'r peiriant.

Mae Roscosmos wedi cymeradwyo cynllun rhagarweiniol i anfon dau robot i'r Orsaf Ofod Ryngwladol erbyn mis Awst eleni. Fedor (4) yn yr Undeb di-griw. Ddim fel llwyth, ond. Fel yn y ffilm RoboCop, mae Fedor yn gwisgo arf ac yn arddangos crefftwaith marwol yn ystod ymarferion saethu.

Y cwestiwn yw, pam y byddai robot yn y gofod yn arfog? Mae yna amheuaeth nad yw'r mater yn berthnasol i geisiadau daear yn unig. Yn y cyfamser ar y Ddaear, dangosodd gwneuthurwr arfau Rwseg Kalashnikov ddelweddiad robot Igoreksydd, er iddo achosi llawer o chwerthin, yn arwydd bod y cwmni'n gweithio o ddifrif ar gerbydau ymladd ymreolaethol. Ym mis Gorffennaf 2018, cyhoeddodd Kalashnikov ei fod yn adeiladu arf y mae'n ei ddefnyddio i wneud penderfyniadau "saethu neu beidio".

Dylid ychwanegu at y wybodaeth hon adroddiadau bod y gwn Rwsiaidd Digtyarev datblygu bach tanc ymreolaethol Nerekht a all symud yn dawel tuag at ei darged ar ei ben ei hun ac yna ffrwydro gyda grym pwerus i ddinistrio adeiladau eraill neu gyfan. Yn ogystal a Tanc T14 Fyddin , balchder y lluoedd arfog Rwseg, ei gynllunio ar gyfer rheoli o bell posibl a gyrru di-griw. Mae Sputnik yn honni bod peirianwyr milwrol Rwsiaidd yn gweithio i wneud y T-14 yn gerbyd arfog cwbl ymreolaethol.

Cyfarwyddeb Gwrthwynebiadau

Mae milwrol yr Unol Daleithiau ei hun wedi gosod terfyn eithaf clir ar lefel ymreolaeth eu harfau. Yn 2012, cyhoeddodd Adran Amddiffyn yr Unol Daleithiau Gyfarwyddeb 3000.09, sy'n nodi y dylai bodau dynol gael yr hawl i wrthwynebu gweithredoedd robotiaid arfog. (er y gall fod rhai eithriadau). Mae'r gyfarwyddeb hon yn parhau mewn grym. Polisi presennol y Pentagon yw y dylai'r ffactor tyngedfennol wrth ddefnyddio arfau fod yn berson bob amser, ac y dylai barn o'r fath fod. yn cydymffurfio â deddfau rhyfel.

Er bod Americanwyr wedi bod yn defnyddio peiriannau hedfan, Predator, Reaper a llawer o uwch-beiriannau eraill ers degawdau, nid oeddent ac nid ydynt yn fodelau ymreolaethol. Fe'u rheolir gan weithredwyr o bell, weithiau o bellter o filoedd o gilometrau. Dechreuodd trafodaeth frwd am ymreolaeth peiriannau o'r math hwn gyda pherfformiad cyntaf y prototeip. drone X-47B (5), a oedd nid yn unig yn hedfan yn annibynnol, ond a allai hefyd dynnu oddi wrth gludwr awyrennau, glanio arno ac ail-lenwi yn yr awyr. Yr ystyr hefyd yw saethu neu fomio heb ymyrraeth ddynol. Fodd bynnag, mae'r prosiect yn dal i gael ei brofi a'i adolygu.

5. Profion yr X-47B di-griw ar gludwr awyrennau Americanaidd

Yn 2003, dechreuodd yr Adran Amddiffyn arbrofi gyda robot bach tebyg i danc. YSBRYDION offer gyda gwn peiriant. Yn 2007 cafodd ei anfon i Irac. fodd bynnag, daeth y rhaglen i ben ar ôl i'r robot ddechrau ymddwyn yn anghyson, gan symud ei reiffl yn afreolaidd. O ganlyniad, mae milwrol yr Unol Daleithiau wedi rhoi'r gorau i ymchwil ar robotiaid tir arfog am flynyddoedd lawer.

Ar yr un pryd, mae Byddin yr UD wedi cynyddu ei gwariant ar weithrediadau o $ 20 miliwn yn 2014 i $ 156 miliwn yn 2018. Yn 2019, mae'r gyllideb hon eisoes wedi neidio i $327 miliwn. Mae hyn yn gynnydd cronnol o 1823% mewn ychydig flynyddoedd yn unig. Dywed arbenigwyr, mor gynnar â 2025, efallai y bydd gan fyddin yr Unol Daleithiau faes y gad mwy o filwyr robot na bodau dynol.

Yn ddiweddar, mae llawer o ddadlau wedi'i achosi a'i gyhoeddi gan Fyddin yr UD Prosiect ATLAS () - awtomatig. Yn y cyfryngau, ystyriwyd bod hyn yn groes i'r Gyfarwyddeb 3000.09 uchod. Fodd bynnag, mae milwrol yr Unol Daleithiau yn gwadu ac yn sicrhau bod eithrio person o'r cylch gwneud penderfyniadau allan o'r cwestiwn.

Mae AI yn cydnabod siarcod a sifiliaid

Fodd bynnag, mae gan amddiffynwyr arfau ymreolaethol ddadleuon newydd. prof. Mae Ronald Arkin, robotegydd yn Sefydliad Technoleg Georgia, yn nodi yn ei gyhoeddiadau hynny Mewn rhyfela modern, mae arfau deallus yn hanfodol i osgoi anafusion sifil, oherwydd gall technegau dysgu peiriant helpu'n effeithiol i wahaniaethu rhwng ymladdwyr a sifiliaid, a thargedau pwysig a dibwys.

Enghraifft o sgiliau AI o'r fath yw patrolio traethau Awstralia. drones Little Ripperoffer gyda'r system SharkSpotter a ddatblygwyd gan Brifysgol Technoleg Sydney. Mae'r system hon yn sganio'r dŵr yn awtomatig am siarcod ac yn rhybuddio'r gweithredwr pan fydd yn gweld rhywbeth anniogel. (6) Gall adnabod pobl, dolffiniaid, cychod, byrddau syrffio a gwrthrychau yn y dŵr i'w gwahaniaethu oddi wrth siarcod. Gall ganfod ac adnabod tua un ar bymtheg o wahanol rywogaethau gyda chywirdeb uchel.

6. Siarcod cydnabyddedig yn y system SharkSpotter

Mae'r dulliau dysgu peiriannau datblygedig hyn yn cynyddu cywirdeb rhagchwilio o'r awyr o fwy na 90%. Er mwyn cymharu, mae gweithredwr dynol mewn sefyllfa debyg yn adnabod 20-30% o wrthrychau mewn awyrluniau yn gywir. Yn ogystal, mae adnabod yn dal i gael ei wirio gan ddyn cyn larwm.

Ar faes y gad, prin y gall y gweithredwr, wrth weld y ddelwedd ar y sgrin, benderfynu a yw'r bobl ar lawr gwlad yn ymladdwyr ag AK-47s yn eu dwylo neu, er enghraifft, ffermwyr â phikes. Mae Arkin yn nodi bod pobl yn tueddu i "weld yr hyn y maent am ei weld," yn enwedig mewn sefyllfaoedd llawn straen. Cyfrannodd yr effaith hon at gwympo awyren o Iran yn ddamweiniol gan yr USS Vincennes yn 1987. Wrth gwrs, yn ei farn ef, byddai arfau a reolir gan AI yn well na'r "bomiau smart" presennol, nad ydynt yn wirioneddol deimladwy. Fis Awst diwethaf, fe darodd taflegryn a arweiniwyd gan laser Saudi lond bws o blant ysgol yn Yemen, gan ladd deugain o blant.

“Os yw bws ysgol wedi’i labelu’n gywir, gall fod yn gymharol hawdd ei adnabod mewn system ymreolaethol,” dadleua Arkin yn Popular Mechanics.

Fodd bynnag, nid yw'n ymddangos bod y dadleuon hyn yn argyhoeddi'r ymgyrchwyr yn erbyn lladdwyr awtomatig. Yn ogystal â bygythiad robotiaid lladd, rhaid ystyried amgylchiad pwysig arall. Gall hyd yn oed system "dda" a "sylw" gael ei hacio a'i chymryd drosodd gan bobl ddrwg iawn. Yna mae pob dadl i amddiffyn offer milwrol yn colli eu grym.