Elon Musk, AI agus Airm Núicléacha

Saibhreas agus Eagna a Chomhionannú

Tá iarmhairtí intuartha laistigh de shochaí a adhrann go meabhrach an saibhreas agus na daoine saibhre. Is minic a ardaítear billiúinéirí chuig fáithe, intleachtóirí agus maoir inniúla na sochaí. Dá réir sin, bíonn billiúnaí ina Rúnaí Oideachais, ag scriosadh córas oideachais phoiblí atá ídithe cheana féin. Déantar bainisteoir ciste fálaithe saibhir mar Rúnaí an Chisteáin, ag creachadh cistí poiblí chun leas breise a thabhairt do dhaoine saibhre ar chostas na ndaoine eile. Tá billiúnaí apolitical nach bhfuil aon rud so-aitheanta le tairiscint don chomhlacht polaitiúil in ann válsa a dhéanamh ar hallaí baile iarrthóirí uachtaránachta. Faigheann an fear is saibhre ar domhan cathracha iomlána chun rince timpeall a mhéara chun pacáistí bronntanais deiridh a tháirgeadh chun cur leis an saibhreas gáirsiúil atá aige cheana féin. Faoi dheireadh, faigheann billiúnaí neamhfhoirmiúil ráitis mheargánta a dhéanamh go casually faoi gheopolitics agus bagairtí de dhéantús an duine, agus tógtar dáiríre é.

Cás i bpointe: Forógra Elon Musk le déanaí agus arís agus arís eile go bhfuil “AI i bhfad níos contúirtí ná nukes.”

AI agus Airm Núicléacha

Mar a chlúdaigh mé roimhe seo i bhFicsean Elon Musk: How Myths Paralyze Progress, is minic a atreoraíonn adhradh laoch billiúnaí ó dhul chun cinn inláimhsithe. Toradh eile ar bootlicking slobbering den sórt sin, áfach, is ea scaipeadh tuairimí contúirteacha ar bheartas poiblí - nach ndéantar a mheas de ghnáth ar a fhiúntais le súil chriticiúil, ach a thógann saorluach iad agus a dhéanann saoránaigh a bhfuil brí mhaith leo mar soiscéal.

Cuid lárnach de chomparáid Musk ar na bagairtí a bhaineann le hintleacht shaorga agus airm núicléacha is ea rómheastachán ar na cumais agus na bagairtí a bhaineann le hintleacht shaorga, agus rómheastachán comhlán ar na bagairtí a bhaineann le hairm núicléacha. Sula tumfar isteach i ngach ceann iad, is gá soiléiriú simplí séimeantach a fháil chun cur síos a dhéanamh ar an gciall atá ag Musk le “AI” sa chás áirithe seo.

Mar a thuairiscigh CNBC,

Ina anailís ar na contúirtí a bhaineann le AI, déanann Musk idirdhealú idir feidhmchláir cás-shonracha faisnéise meaisín cosúil le gluaisteáin féin-tiomána agus faisnéis ghinearálta meaisín, a thuairiscigh sé roimhe seo mar “fheidhm fóntais oscailte” agus “milliún uair” níos mó cumhachta ríomha ”ná AI cás-shonrach.
Nílim i ndáiríre ar fad buartha faoin ábhar gearrthéarmach. Ní riosca ar leibhéal speicis é AI caol. Beidh dislocation, poist caillte, agus armra níos fearr agus an cineál sin mar thoradh air, ach ní riosca bunúsach ar leibhéal na speiceas é, ach tá sár-intleacht dhigiteach ann, ”a mhínigh Musk.

AI Ginearálta

Coinnímid rudaí simplí. Agus neamhaird á dhéanamh aige ar théarmaí neamhriachtanacha a bhfuil sé mar aidhm acu dul i bhfeidhm orthu, mar shampla “feidhmeanna fóntais oscailte” agus “cumhacht ríomhaireachta na milliúin uair níos mó,” tá Musk ag cur in iúl nach luíonn a chuid imní le AI caol Tá raon feidhme na bhfeidhmchlár seo teoranta - algartam a chuireann go leor pointí sonraí faoi úsáideoir cosúil le haois, suíomh, stair siopadóireachta, srl. agus déanann sé moltaí maidir le fógraí, clár fichille, uirlis dhiagnóiseach a dhéanann monatóireacht agus rialú ar oibríocht monarchan - gach AI caol

Ina ionad sin tá imní ar Musk faoi AI ginearálta - a thuairiscíonn sé mar “sár-intleacht dhigiteach.” Ag déanamh imní faoi thógáil teoiriciúil, tá bogearraí fairtheach atá in ann feabhsúcháin a chomhshamhlú leis féin bunaithe ar fhoghlaim i spás ginearálaithe gan srianta ag déanamh neamhaird ar cé chomh bunúsach agus a bheidh AI go ceann i bhfad. Déanann sé neamhaird freisin ar a laghad atá ar eolas againn faoi fhaisnéis ar leibhéal an duine amháin. Mar a mhínigh Toby Walsh, Ollamh le AI, Ollscoil New South Wales,

Tá ráitis Elon Musk aláraim. Rinne mé suirbhé le déanaí ar 300 taighdeoir mór le rá AI agus ceapann a bhformhór go dtógfaidh sé 50 bliain ar a laghad dul chuig meaisíní chomh cliste le daoine. Mar sin ní fadhb í seo nach mór aird a thabhairt uirthi láithreach.

Glactar leis seo má tá fadhbanna na hintleachta agus na seandachta intuaslagtha ar an gcéad dul síos. Mar a thuairiscíonn Noam Chomsky in What Kind of Creatures Are We,

Tá coincheap ann ar a dtugtar “an rúndiamhair nua,” a chum Owen Flanagan, a shainmhínigh é mar “phost iar-nua-aimseartha atá deartha chun spíce iarnróid a thiomáint trí éisteacht na heolaíochta” tríd an gconaic sin a choinneáil nach féidir a mhíniú go hiomlán riamh. Leathnaíodh an téarma go ceisteanna níos leithne faoi scóip agus nádúr na mínithe atá inrochtana ar fhaisnéis an duine.

Leanann sé ar aghaidh,

Luaitear mé mar dhuine de na ciontóirí atá freagrach as an heresy iar-nua-aoiseach aisteach seo, cé gurbh fhearr liom ainm difriúil: truism. Is é sin a shíl mé daichead bliain ó shin agus mé ag moladh idirdhealú a dhéanamh idir fadhbanna, a thagann faoi ár gcumas cognaíocha, agus rúndiamhair, nach bhfuil. I dtéarmaí a fuair mé ar iasacht ó chuntas fuadach Charles Sanders Peirce, is córas bitheolaíoch é intinn an duine a sholáthraíonn sraith theoranta de “hipitéisí inghlactha” atá mar bhunús le fiosrú eolaíoch daonna - agus leis an réasúnaíocht chéanna sin, ar ghnóthachtálacha cognaíocha go ginearálta . Maidir le loighic shimplí, ní mór don chóras hipitéisí agus smaointe eile a eisiamh atá inrochtana dúinn ar fad, nó ró-iargúlta in ordlathas inrochtaineachta áirithe le go mbeidh siad inrochtana i ndáiríre, cé go bhféadfadh siad a bheith amhlaidh d’intinn a bhfuil struchtúr difriúil orthu. […]

Is é sin le rá, mar a mhínigh Chomsky, smaoinigh ar luch. Le heachtraí oiliúna arís agus arís eile i gcathair ghríobháin shimplí, is féidir leis an luch an gcathair ghríobháin a réiteach agus an slí amach a fháil. Tá an tasc seo laistigh de scóip a chuid faisnéise, agus dá bhrí sin tá sé rangaithe mar fhadhb.

Más in ionad lúbra simplí a rinneadh an luch le nascleanúint a dhéanamh trí lúbra príomhuimhir, nuair is gá casadh ceart a dhéanamh ag príomhuimhreacha, agus casadh ar chlé ag neamhthréimhsí, ansin ní thabharfaidh aon líon eipeasóid oiliúna an fhaisnéis don luch chun an gcathair ghríobháin seo a réiteach. Tá sé thar a theorainneacha bitheolaíocha, agus dá bhrí sin, tá sé rangaithe mar rúndiamhair.

Ar an gcaoi chéanna, d’fhéadfadh go bhfaigheadh ​​daoine, a bhfuil a raon feidhme bitheolaíoch féin agus teorainneacha faisnéise acu, gur rúndiamhair go leor ceisteanna a bhaineann le hintleacht agus le comhfhios.

Ní chuirtear ceisteanna uafásacha den sórt sin san áireamh i dteicneaplacht ardteicneolaíochta, a bhfuil Musk ina mháistir sorcais air inniu. Murar féidir le daoine cur le tuiscint ar chonaic agus ar fhaisnéis an duine, an féidir linn leagan saorga de a chruthú? B’fhéidir. B’fhéidir nach ea. Tá sé fós le feiceáil.

Le déanaí, ar Phodchraoladh Joe Rogan, chuaigh Musk i mbun sofaisticiúlachta le himeacht fabhtach agus fáidhiúil. Seo fear, nach ndearna meastóireacht iomlán ar na héilimh a bhí á ndéanamh aige, agus é ag baint taitneamh as an mborradh a thagann le héilimh theicniúla scaoilte a dhéanamh gan aon bhrú ar ais so-aitheanta.

Ag pointe éigin sa chomhrá, d’fhiafraigh Rogan de Musk, “Mar sin, cad a tharla duit nuair a ghlac tú dearcadh níos marfach chun […], an raibh aon rud faoi leith ann nó an raibh sé dosheachanta ár dtodhchaí?"

Lean Musk, tar éis dó a bheith fada bán, go ciúin agus go sollúnta, “Rinne mé iarracht a chur ina luí ar dhaoine moilliú, moilliú a dhéanamh ar AI, chun AI a rialáil. Rinne mé iarracht ar feadh blianta. Níor éist aon duine. "

Caithfear a chreidiúint.

Airm Núicléacha

Is measúnú ilchodach é an Clog Doomsday, arna chothabháil ag Bullaitín na nEolaithe Adamhach, ar gach bagairt slándála domhanda atá ina riosca existential don chine daonna. I measc na bhfachtóirí atá i gceist tá imeachtaí geo-pholaitiúla, dul chun cinn teicneolaíochta, measúnú ar chórais fhisiciúla éagsúla an phláinéid, amhail an aeráid agus mar sin de. Déantar cur síos air mar a leanas sa Bhullaitín féin,

Bunaithe i 1945 ag eolaithe Ollscoil Chicago a chuidigh le forbairt na gcéad arm adamhach i dTionscadal Manhattan, chruthaigh Bullaitín na nEolaithe Adamhach Clog Doomsday dhá bhliain ina dhiaidh sin, ag baint úsáide as íomhánna na apocalypse (meán oíche) agus an idiom comhaimseartha de phléasc núicléach (comhaireamh síos go nialas) chun bagairtí don chine daonna agus don phláinéid a chur in iúl. Déanann Bord Eolaíochta agus Slándála an Bullaitín an cinneadh lámhleabhar an Chlog Doomsday a bhogadh (nó a fhágáil ina áit) gach bliain i gcomhairle lena Bhord Urraitheoirí, a chuimsíonn 15 laureate Nobel. Tá an Clog anois ina tháscaire a aithnítear go huilíoch ar leochaileacht an domhain i leith tubaistí ó airm núicléacha, athrú aeráide, agus teicneolaíochtaí nua atá ag teacht chun cinn i bhfearainn eile.

Ina thuarascáil 2019 Doomsday Clock a díríodh ar “cheannairí agus saoránaigh an domhain”, thuairiscigh an Bullaitín,

Tá dhá bhagairt chomhuaineacha chomhuaineacha os comhair na daonnachta anois, agus bheadh ​​ceachtar acu ina gcúis mhór imní agus aird láithreach. Méadaíodh na bagairtí móra seo - airm núicléacha agus athrú aeráide - i mbliana le húsáid mhéadaithe na cogaíochta faisnéise chun an bonn a bhaint den daonlathas ar fud an domhain, an riosca ó na bagairtí sin agus bagairtí eile a mhéadú agus todhchaí na sibhialtachta a chur i mbaol urghnách.

Faigheann an dá bhagairt seo méideanna beaga cumhdaigh sna meáin phríobháideacha, a bhfuil níos mó spéise acu cumhacht stáit agus corparáideach a choinneáil, agus suaimhneas na saoránach. Faigheann bagairtí núicléacha clúdach níos lú fós ná cúrsaíocht na meán athraithe aeráide atá bochtaithe cheana féin.

Déantar cur síos sa tuarascáil ar chúiseanna éagsúla le meath an ordaithe núicléach domhanda, nó go simplí, an neamhord a ardú, mar a leanas:

  1. Thréig na Stáit Aontaithe an Comhphlean Gníomhaíochta Cuimsitheach, ar a dtugtar Deal na hIaráine go coitianta. Chuir an comhaontú iltaobhach seo teorainneacha agus gníomhaíochtaí fíoraithe nach bhfacthas riamh cheana ar chlár agus ar shaoráidí núicléacha na hIaráine.
  2. Tharraing riarachán Trump siar ó Chonradh INF, a chuireann cosc ​​ar dhiúracáin raon idirmheánach. Tá an comhaontú INF i bhfeidhm le breis agus 30 bliain agus chuir sé le cobhsaíocht san Eoraip. Tá féidearthacht ar leith ann go mbeadh iomaíocht nua ann chun airm a imscaradh a bhfuil cosc ​​fada orthu. Cé go bhfuil deireadh á chur le conarthaí, níl aon phróiseas i bhfeidhm a chruthóidh réimeas nua srianta idirbheartaithe ar iompar núicléach. Den chéad uair ó na 1980idí, is cosúil go bhfuil an domhan i dtimpeallacht núicléach neamhrialaithe.
  3. Tá ceist núicléach na Cóiré Thuaidh, atá práinneach le fada, fós gan réiteach. Tháinig roinnt dea-scéil chun cinn in 2018. Tá reitric bellicose 2017, a raibh eagla an chogaidh air, imithe den chuid is mó. Is cosúil gur céim taidhleoireachta chun tosaigh é an cruinniú mullaigh idir an tUachtarán Trump agus an tUachtarán Kim i Singeapór i Meitheamh 2018. Ach níor glacadh aon chéim nithiúil shubstainteach mharthanach chun clár núicléach na Cóiré Thuaidh a shrianadh nó a rolladh ar ais, agus leanann nuachóiriú a cumais núicléacha.
  4. Fiú agus iarrachtaí rialaithe arm ag dul in olcas, leanann nuachóiriú fórsaí núicléacha ar fud an domhain go tapa. Ina aitheasc Uachtaráin chuig an Tionól Cónaidhme an 1 Márta, 2018, rinne Uachtarán na Rúise Vladimir Putin cur síos ar chlár fairsing nuachóirithe núicléach, a bhfuil údar leis mar fhreagairt ar iarrachtaí cosanta diúracán na SA. Chuir riarachán Trump leis an gclár nuachóirithe núicléach cuimsitheach an-chostasach a fuair sé ó riarachán Obama. Idir an dá linn, níl cumais núicléacha na seacht stát armtha núicléacha eile á rialú ag aon srianta caibidlithe, agus leanann cuid acu - go háirithe an India agus an Phacastáin - ag leathnú agus ag nuachóiriú a gcumais. Samhlaíonn na cláir nuachóirithe fadtéarmacha seo go bhfuil cumais núicléacha shubstaintiúla acu ar feadh na mblianta atá le teacht, gan mórán comhartha spéise ann fórsaí núicléacha a laghdú nó a shrianadh.
  5. Is cosúil go bhfuil an spleáchas ar airm núicléacha ag dul i méid, agus tá dochtúireachtaí míleata ag teacht chun cinn ar bhealaí a mhéadaíonn an fócas ar airm núicléacha a úsáid i ndáiríre. Tá an tAthbhreithniú ar Staidiúir Núicléach is déanaí de chuid riarachán Trump buartha go mór ón dearcadh seo. Cuireann sé béim ar an éileamh gur ghlac an Rúis le foirceadal núicléach an-escalatory. Áitíonn sé go gcaithfidh na Stáit Aontaithe a bheith ullamh freisin chun airm núicléacha a úsáid i raon leathan cúinsí, agus mar sin ba cheart dóibh infheistíocht a dhéanamh in airm núicléacha nua atá níos inúsáidte.

Is minic nach dtéann forbairtí iontacha contúirteacha den sórt sin isteach i gclárú meán dromchla. Nuair a dhéanann siad, déantar iad a achoimriú agus a dhíbhe go tapa ag tech-bros gan spéis a mhaíonn go suaibhreosach “Tá AI níos contúirtí ná airm núicléacha” ag SXSW. Mura mbainistítear an riosca go ndéanfar airm núicléacha laistigh de chreat ama réasúnta, ní bheidh go leor ama ann chun ceisteanna thuasluaite a fhreagairt faoi indéantacht AI ginearálta

Musk: An Genius Super Brain

Go híorónta, ní chailleann Musk codladh thar AI caol, rud nach gcuireann ach leis an mbagairt a bhaineann le díothú núicléach. Le spreagthóirí díoltais uathoibrithe agus leathadh córais uathoibrithe cinnteoireachta a dtugtar an cumas dóibh an fiús a lasadh, ní thagann ach an riosca go dtarlóidh rudaí dearfacha bréagacha agus earráidí cinntí eile. Chonacthas sa Stair cheana glaonna gar do ardú gruaige le linn éigeantas núicléach domhanda, mar a rinne an sceithire Pentagon Papers Daniel Ellsberg cur síos agus doiciméadacht fhorleathan.

Ach cad iad na sonraí leadránach seo in aghaidh orgy Hollywood den uatha, an Maitrís agus smaointe ficseanúla eile a dhéanann éilimh phráis faoi bhagairtí atá le teacht ó bhogearraí sár-eolaíoch? Tosaíonn Musk, nuair a bhíonn micreafón á bholadh aige faoina shrón, ag tuar go bhfuil tuartha aineolacha ann a thrasnaíonn caidreamh idirnáisiúnta, ord núicléach domhanda, eolaíocht chognaíoch, eolaíocht ríomhaireachta, intleacht shaorga agus néareolaíocht, i measc réimsí eile, gan aon údar láidir leis.

Bealach amháin a bheadh ​​ann dá n-imeodh an screadaíl seo isteach san oíche gan a bheith dáiríre. Tá sé plástráilte ar fud na nuachta, áfach, ag mífhaisnéis na milliúin. Pléitear é ar phodchraoltaí, míthreorach níos mó fós - go simplí de bhua go ndéanann billiúnaí ardteicneolaíochta é a lua.

D’fhéadfadh inspreagadh Musk a bheith dosháraithe. D’fhéadfadh raon a bheith acu ó dheontais taighde a fháil, go ráitis a lorg nach gá tuilleadh mionsaothraithe a dhéanamh orthu, go dtí iascaireacht a dhéanamh ar adulation atá curtha in áirithe do na fáithe. Mar sin féin, glacann adhradh laoch cas ar an gcontúirteach nuair a théann sé ó inspioráid shimplí srianta go róil maoirseachta intleachtúla, eiticiúla agus fiú morálta a shannadh do na billiúnaithe.

Mar chuid dá thobar féileacán briathartha le linn SXSW, thairg Musk,

Is í an tsaincheist is mó a fheicim le saineolaithe AI ​​mar a thugtar air ná go gceapann siad go bhfuil níos mó eolais acu ná mar atá acu, agus dar leo go bhfuil siad níos cliste ná mar atá siad i ndáiríre, ”a dúirt Musk. “Is gnách go gcuireann sé seo eagla ar dhaoine cliste. Sainmhíníonn siad iad féin de réir a gcuid faisnéise agus ní maith leo an smaoineamh go bhféadfadh meaisín a bheith i bhfad níos cliste ná iad, agus mar sin déanann siad an smaoineamh a lascainiú - rud atá bunúsach lochtach.

Bhuel, nach mbeadh a fhios agat. Tá an meaisín ag éirí féinfheasach.

Ceisteanna nó Tráchtanna? Le do thoil sín amach ag [email protected] Lean ar Twitter @ConsensusExiled.

Léigh an scéal seo níos déanaí san Irisleabhar.

Múscail gach maidin Dé Domhnaigh go dtí na scéalta is suntasaí sa tseachtain i Tech ag fanacht i do bhosca isteach. Léigh an nuachtlitir Noteworthy in Tech.