Pwy fydd yn cael ei ladd gan gar sy'n gyrru ei hun? Peiriant, arbed cymaint o bobl â phosib, ond yn bennaf oll, achubwch fi!

Os bydd sefyllfa'n codi lle mae'n rhaid i system ymreolaethol car wneud dewis cyflym i bwy i'w aberthu pe bai damwain ar fin digwydd, sut ddylai ymateb? Aberthu teithwyr i achub cerddwyr? Os oes angen, lladd cerddwr i'w sbario, er enghraifft, teulu o bedwar yn teithio mewn car? Neu efallai y dylai bob amser amddiffyn ei hun yn gyntaf?

Tra bod mwy na chwe deg o gwmnïau eisoes wedi derbyn trwyddedau profi personol yng Nghaliffornia yn unig, mae'n anodd dweud bod y diwydiant ar fin wynebu penblethau moesegol. Ar hyn o bryd, mae'n cael trafferth gyda phroblemau mwy sylfaenol - gweithrediad ac effeithlonrwydd llywio systemau ac yn syml osgoi gwrthdrawiadau a digwyddiadau annisgwyl. Mewn sefyllfaoedd fel llofruddiaeth cerddwr yn Arizona yn ddiweddar, neu ddamweiniau dilynol (1), hyd yn hyn mae wedi ymwneud yn syml â methiannau system, ac nid rhyw fath o "ddewis moesegol" y car.

Achub y cyfoethog a'r ifanc

Nid yw'r materion sy'n ymwneud â gwneud y mathau hyn o benderfyniadau yn broblemau haniaethol. Gall unrhyw yrrwr profiadol ardystio hyn. Y llynedd, dadansoddodd ymchwilwyr o'r MIT Media Lab dros ddeugain miliwn o ymatebion gan ymatebwyr o bob cwr o'r byd a gasglwyd yn ystod ymchwil a lansiwyd yn 2014. Mae'r system bleidleisio y maent yn ei galw y "Peiriant Moesegol", yn dangos bod mewn mannau amrywiol o amgylch y byd, gofynnir cwestiynau tebyg gwahanol atebion.

Mae'r casgliadau mwyaf cyffredinol yn rhagweladwy. Mewn sefyllfaoedd eithafol mae'n well gan bobl achub pobl na gofalu am anifeiliaid, gan anelu at achub cymaint o fywydau â phosibl, ac maent yn tueddu i fod yn iau na'r henoed (2). Mae yna hefyd rai dewisiadau, ond llai amlwg, o ran achub menywod dros ddynion, pobl statws uwch dros bobl dlotach, a cherddwyr dros deithwyr ceir..

2. Pwy ddylai'r car ei arbed?

Gan fod bron i hanner miliwn o ymatebwyr wedi llenwi holiaduron demograffig, roedd yn bosibl cyfatebu eu hoffterau ag oedran, rhyw a chredoau crefyddol. Daeth yr ymchwilwyr i'r casgliad nad oedd y gwahaniaethau hyn yn "effeithio'n sylweddol" ar benderfyniadau pobl, ond nododd rai dylanwadau diwylliannol. Roedd y Ffrancwyr, er enghraifft, yn tueddu i bwyso a mesur penderfyniadau ar sail amcangyfrif o nifer y marwolaethau, tra yn Japan oedd y lleiaf o bwyslais. Fodd bynnag, yng Ngwlad y Rising Sun, mae bywyd yr henoed yn cael ei werthfawrogi'n llawer mwy nag yn y Gorllewin.

“Cyn i ni ganiatáu i’n ceir wneud eu penderfyniadau moesegol eu hunain, mae angen i ni gael dadl fyd-eang am hyn. Pan fydd cwmnïau sy'n gweithio ar systemau ymreolaethol yn dysgu am ein dewisiadau, yna byddant yn datblygu algorithmau moesegol mewn peiriannau yn seiliedig arnynt, a gall gwleidyddion ddechrau cyflwyno darpariaethau cyfreithiol digonol, ”ysgrifennodd y gwyddonwyr ym mis Hydref 2018 yn Nature.

Canfu un o'r ymchwilwyr a gymerodd ran yn yr arbrawf Peiriant Moral, Jean-Francois Bonnefont, fod y ffafriaeth i achub pobl o statws uwch (fel swyddogion gweithredol dros y digartref) yn frawychus. Yn ei farn ef, mae hyn yn berthnasol iawn i lefel yr anghydraddoldeb economaidd mewn gwlad benodol. Lle'r oedd mwy o anghydraddoldebau, roedd ffafriaeth yn cael ei rhoi i aberthu'r tlawd a'r digartref.

Dangosodd un o'r astudiaethau blaenorol, yn benodol, y dylai car ymreolaethol, yn ôl ymatebwyr, amddiffyn cymaint o bobl â phosibl, hyd yn oed os yw'n golygu colli teithwyr. Ar yr un pryd, fodd bynnag, dywedodd yr ymatebwyr na fyddent yn prynu car wedi'i raglennu fel hyn. Eglurodd yr ymchwilwyr hynny tra bod pobl yn ei chael hi'n fwy moesegol i achub mwy o bobl, maen nhw hefyd yn hunan-ddiddordeb, a allai fod yn arwydd i weithgynhyrchwyr y bydd cwsmeriaid yn amharod i brynu ceir sydd â systemau anhunanol.. Beth amser yn ôl, dywedodd cynrychiolwyr y cwmni Mercedes-Benz pe bai eu system yn arbed un person yn unig, byddent yn dewis y gyrrwr, nid y cerddwr. Gorfododd ton o brotestiadau cyhoeddus y cwmni i dynnu ei ddatganiad yn ôl. Ond y mae ymchwil yn dangos yn eglur fod llawer o ragrith yn y digofaint santaidd hwn.

Mae hyn eisoes yn digwydd mewn rhai gwledydd. ymdrechion cyntaf ar reoleiddio cyfreithiol mewn cae. Mae'r Almaen wedi pasio deddf sy'n ei gwneud yn ofynnol i geir heb yrrwr osgoi anaf neu farwolaeth ar bob cyfrif. Mae'r gyfraith hefyd yn nodi na all algorithmau byth wneud penderfyniadau ar sail nodweddion fel oedran, rhyw, iechyd, neu gerddwyr.

Audi sy'n cymryd yr awenau

Nid yw'r dylunydd yn gallu rhagweld holl ganlyniadau gweithrediad y car. Gall realiti bob amser ddarparu cyfuniad o newidynnau nad ydynt erioed wedi'u profi o'r blaen. Mae hyn yn tanseilio ein ffydd yn y posibilrwydd o "raglennu'n foesegol" peiriant o gwbl. Mae'n ymddangos i ni, mewn sefyllfaoedd lle mae gwall yn digwydd a thrasiedi yn digwydd "oherwydd bai'r car", gwneuthurwr a datblygwr y system ddylai ysgwyddo'r cyfrifoldeb.

Efallai bod y rhesymu hwn yn gywir, ond efallai nad oherwydd ei fod yn anghywir. Yn hytrach, oherwydd bod symudiad wedi'i ganiatáu nad oedd 2019% yn rhydd o'r posibilrwydd o'i wneud. Mae'n ymddangos mai dyna'r rheswm, ac nid yw cyfrifoldeb a rennir yn cael ei anwybyddu gan y cwmni, a gyhoeddodd yn ddiweddar y byddai'n cymryd cyfrifoldeb am ddamweiniau sy'n cynnwys A8 3-mlwydd-oed tra'n defnyddio system Peilot Jam Traffig awtomatig (XNUMX) ynddo.

3. Rhyngwyneb Peilot Jam Traffig Audi

Ar y llaw arall, mae yna filiynau o bobl sy'n gyrru ceir a hefyd yn gwneud camgymeriadau. Felly pam y dylid gwahaniaethu yn erbyn peiriannau, sydd yn ystadegol yn gwneud llawer llai o gamgymeriadau na bodau dynol, fel y dangosir gan gamgymeriadau niferus, yn hyn o beth?

Os oes unrhyw un yn meddwl bod penblethau moeseg a chyfrifoldeb ym myd cerbydau ymreolaethol yn syml, daliwch ati i feddwl...