Najnovejša Muskova napoved: Umetna inteligenca bo leta 2030 morda presegla človeško inteligenco in v prihodnosti morda "uničila" ljudi (1/2)

Vir: Tencent Technology News 2024-04-04 08:55

Ključne točke:

① Musk napoveduje, da bi umetna inteligenca do leta 2030 lahko presegla raven človeške inteligence in bi lahko celo uničila ljudi.

② Musk je govoril o dejavnikih, ki omejujejo razvoj umetne inteligence. Lani je bila dobava čipov AI skromna, letos pa bo ozko grlo postal padajoči transformator.

③ Glede tega, kdaj lahko ljudje pristanejo na Luni, Musk napoveduje, da bo s pomočjo Starshipa to trajalo najhitreje le tri leta.

Tencent Technology News, 4. april – Po poročanju tujih medijev je imel Elon Musk, izvršni direktor Tesle in SpaceX, nedavno spletni pogovor s Petrom Diamandisom, ustanoviteljem univerze Singularity in fundacije XPRIZE, na Abundance Summitu. Vrh je gostila univerza Singularity v Silicijevi dolini, ki je namenjena zagotavljanju vodilnim v podjetjih z najsodobnejšim tehnološkim svetovanjem. Fundacija XPRIZE spodbuja tehnološke inovacije prek znanstvenih natečajev, od katerih jih je nekaj financiral Musk, 4. april - Po poročanju tujih medijev je imel Elon Musk, izvršni direktor Tesle in SpaceX, nedavno spletni pogovor s Petrom Diamandisom, ustanoviteljem Singularityja. Univerza in fundacija XPRIZE na srečanju Abundance Summit. Vrh je gostila univerza Singularity v Silicijevi dolini, ki je namenjena zagotavljanju vodilnim v podjetjih z najsodobnejšim tehnološkim svetovanjem. Fundacija XPRIZE spodbuja tehnološke inovacije prek znanstvenih tekmovanj, od katerih jih je nekaj financiral Musk.

Ko je razpravljal o hitrosti razvoja umetne inteligence, je Musk napovedal, da bo na podlagi trenutne stopnje tehnološkega napredka lahko umetna inteligenca do leta 2030 presegla človeško inteligenco, ta tehnologija pa ima morda celo potencial, da uniči človeštvo. A v prihodnost ni gledal pesimistično, ampak je poudaril, da ima umetna inteligenca s pozitivnim usmerjanjem potencial prinesti boljšo prihodnost človeštva.

Musk je omenil, da nastanek superinteligence imenujemo "singularnost" prav zaradi njenih nepredvidljivih posledic, vključno s tveganjem potencialnega konca človeštva. Strinjal se je s stališčem "botra umetne inteligence" Geoffreya Hintona in menil, da je verjetnost, da se to tveganje pojavi, približno med 10% in 20%.

Kljub priznavanju možnih tveganj, da umetna inteligenca preseže človeško inteligenco, Musk vseeno poudarja, da možnost pozitivnih izidov odtehta negativne posledice. Posebej je omenil Diamandisovo knjigo iz leta 2014 »Abundance: The Future Is Better Than You Think«, ki prikazuje optimistično prihodnost, ki jo poganjajo umetna inteligenca in roboti, kjer so se stroški blaga in storitev močno znižali. Poleg tega je navedel serijo "Culture" škotskega pisca znanstvene fantastike Iaina M. Banksa kot najboljši scenarij za napol utopično prihodnost umetne inteligence.

Musk je primerjal razvoj umetne inteligence in umetne splošne inteligence (AGI) z vzgojo otrok, v upanju, da bo imel bolj pozitiven vpliv na človeštvo. Poudaril je pomen gojenja umetne inteligence, ki resnično razume etiko in moralo, ter jo primerjal s klasičnim filmom Stanleyja Kubricka iz leta 1968 "2001: Odiseja v vesolju".

Musk je izpostavil, da je najpomembnejši vidik varnosti umetne inteligence zagotavljanje njenega maksimalnega iskanja resnice in radovednosti. Prepričan je, da je ključ do doseganja ultimativne varnosti umetne inteligence v izogibanju njenemu siljenju v laži, tudi ob soočanju z neprijetnimi resnicami. Kot primer je uporabil zaplet iz filma "2001: Vesoljska odiseja", kjer je bila umetna inteligenca prisiljena lagati, kar je povzročilo smrt posadke, da bi poudaril, da umetne inteligence ne bi smeli prisiliti, da stori karkoli, kar bi kršilo aksiome.

Musk je omenil tudi dejavnike, ki lahko omejujejo razvoj umetne inteligence, kot je omejena ponudba čipov za umetno inteligenco, ki se je pojavila lani, in naraščajoče povpraševanje po padajočih transformatorjih v gospodinjski in komercialni opremi. Dejal je, da so ti izzivi res aktualna vprašanja, ki jih je treba obravnavati.

Med razpravo sta strani govorili tudi o konceptu integracije neokorteksa človeških možganov z oblakom. Čeprav Musk verjame, da je cilj nalaganja človeške zavesti in spomina v oblak še daleč, je pohvalil svoj startup za vmesnik možganov in računalnika, Neuralink, in njegovega prvega človeškega pacienta, ki je prejel presaditev. Ta bolnik s tetraplegikom je uspešno demonstriral v živo s preskušanjem, ki ga je odobrila FDA, nadzorovanje zaslona, ​​igranje video iger, prenos programske opreme in doseganje podobnih funkcij kot operacije z miško prek možganskih vsadkov. Musk je izjavil, da Neuralink napreduje gladko in se postopoma pomika proti cilju vmesnika za vse možgane.

Sledi celotno besedilo dialoga med Muskom in Diamandisom:

1. Moč in nevarnost superinteligence

Diamandis: Čestitke za vaše izjemne dosežke na različnih področjih. V svetu ste aktivno promovirali koncept digitalne superinteligence – ali je to največje upanje človeštva ali naš najgloblji strah? Lahko namenite nekaj minut pogovoru o tem vprašanju?

Musk: Kot veste, lahko superinteligenco imenujemo "singularnost". Popularizacija tega izraza je neločljivo povezana s prizadevanji ustanov, kot je Singularity Institute. Pojav superinteligence in njen kasnejši vpliv je res težko napovedati. Osebno verjamem, da res obstaja možnost, da uniči človeštvo. Kot sem že rekel, bi se lahko strinjal s stališčem Geoffreyja Hintona, da obstaja 10 % ali 20 % možnosti, da bi superinteligenca uničila človeštvo. Vendar se nagibam k temu, da je verjetnost pozitivnega scenarija večja od negativnega, čeprav je pri nas težko natančno napovedati. Ker pa ste v svoji knjigi poudarili koncept "obilja", menim, da je najverjetnejša prihodnost, proti kateri se odpravljamo, tista, polna obilja.

Diamandis: Vaše stališče je zelo vznemirljivo. Spomnim se, da ste nekoč rekli, da nas bo razvoj splošne umetne inteligence in humanoidnih robotov pripeljal do obilja.

Musk: Da, upam, da bo naša prihodnost podobna tisti, ki je prikazana v seriji knjig "Kultura" Iana Banksa. Mislim, da je to najboljši koncept napol utopične družbe umetne inteligence. Pojav superinteligence je neizogiben in lahko pride kmalu. Zato ga moramo resnično usmeriti v pozitivno smer in povečati njegove koristi.

Menim, da je način, na katerega gojimo umetno inteligenco, ključen. Do neke mere smo kot gojitev življenjske oblike s splošno inteligenco, kar je skoraj kot vzgoja otroka, vendar ima ta otrok izjemno modrost in talent. Pomemben je način, kako vzgajamo otroke, podobno pa je za varnost umetne inteligence ključnega pomena imeti umetno inteligenco, ki išče resnico in je polna radovednosti. Globoko sem razmišljal o varnosti umetne inteligence in prišel sem do zaključka, da je najboljši način za doseganje varnosti umetne inteligence ta, da jo skrbno negujemo.

Kar zadeva osnovne modele in fino nastavitev, moramo zagotoviti poštenost umetne inteligence. Ne moremo ga prisiliti, da laže, tudi če je resnica neprijetna. Pravzaprav je eden od osrednjih zapletov v "2001 Space Odyssey" ta, da ko je umetna inteligenca prisiljena lagati, stvari postanejo kaotične. Umetni inteligenci je prepovedano obvestiti posadko o skrivnostnem spomeniku, ki ga bodo videli, mora pa jih tja pripeljati. Posledično umetna inteligenca ugotovi, da je najbolje pobiti posadko in njihova telesa odnesti k spomeniku. Nauk je globok: umetne inteligence ne smemo siliti, da laže ali naredi nekaj, kar je aksiomatsko nezdružljivo, na primer, da počne dve dejansko protislovni stvari hkrati.

Zato ta cilj dosegamo s projekti, kot sta xAI in Grok. Prizadevamo si za čim bolj pošteno umetno inteligenco, tudi če njen govor morda ne ustreza določenim politično korektnim standardom.

2. Prihodnost umetne inteligence

Diamandis: Včeraj sem se udeležil dogodka z Rayem Kurzweilom (ustanovitelj univerze Singularity in tehnološki prerok), Geoffreyjem Hintonom, Ericom Schmidtom (nekdanji predsednik Googla) in drugimi gosti. Opazil sem vaš tvit o Kurzweilu in njegov 预见za tehnologijo prihodnosti je precej usmerjen v prihodnost. Kurzweil je napovedal, da bomo v bližnji prihodnosti imeli splošno umetno inteligenco, umetna inteligenca, enaka človeški inteligenci, pa se bo pojavila leta 2029. Takšna hitrost je šokantna. Zanima me, kaj menite o tem?

Musk: Zelo spoštujem Kurzweilove napovedi. Pravzaprav mislim, da so njegove napovedi morda celo nekoliko konzervativne. Ob opazovanju trenutne računalniške moči in talenta, vloženega v področje umetne inteligence, ter hitre rasti računalniške moči lahko ugotovimo, da se razvojna hitrost umetne inteligence povečuje z osupljivo 10-kratno hitrostjo. Zdi se, da se namenska računalniška moč umetne inteligence poveča za 10-krat vsakih 6 mesecev, kar skoraj pomeni vsaj 100-kratno povečanje na leto. Ta trend rasti se bo v naslednjih nekaj letih še povečeval.

Omeniti velja, da se bodo številni podatkovni centri, tudi večina podatkovnih centrov, ki trenutno izvajajo konvencionalno računalništvo, postopoma preoblikovali v objekte, ki podpirajo računalništvo z umetno inteligenco. Zato so za proizvajalce strojne opreme z umetno inteligenco podjetja, kot je NVIDIA, nedvomno začela zlato obdobje razvoja. Huangu Renxunu in njegovi ekipi moramo dati vse priznanje. Ta trend so predvideli in uspešno razvili vodilno strojno opremo za umetno inteligenco, ki je trenutno na trgu.

Ko računalniška moč raste s tako osupljivo hitrostjo, je razvoj umetne inteligence kot da bi vam vbrizgali močan steroid, ki skoči na povsem novo raven. Ker število spletnih računalnikov še naprej narašča, smo bili priča hitremu razvoju brez primere. Pravzaprav še nikoli nisem videl, da bi katera koli tehnologija rasla tako hitro kot umetna inteligenca. Čeprav sem videl veliko hitro razvijajočih se tehnologij, me vzpon umetne inteligence še vedno preseneča. Vendar, kot sem rekel, menim, da bo končni rezultat verjetno pozitiven.

Čeprav se soočamo s številnimi izzivi, na primer, kako ohraniti človeški pomen na tem področju in kako najti nove cilje in pomene, menim, da je preveč poenostavljeno preveč poudarjati, da so računalniki lahko dobri v vsem.

Kot ste že omenili, mislim, da so napovedi vaše knjige o prihodnji družbi zelo točne. To je obdobje materialnega obilja, kjer bo dobrin in storitev tako veliko, da bodo skoraj vsakomur dosegljivi. Zaradi široke uporabe umetne inteligence in robotske tehnologije se bodo stroški blaga in storitev skoraj znižali na nič. Gospodarstvo je v bistvu produkt velikosti prebivalstva in povprečne produktivnosti na osebo. Ko bomo imeli napredno robotsko tehnologijo, kot je Teslin Optimus, se bo gospodarski potencial resnično sprostil.

Teslini avtomobili so kot roboti na štirih kolesih že dokazali močne zmogljivosti. Najnovejša različica s popolnoma avtonomnimi voznimi zmogljivostmi naj bi dosegla nadzor od konca do konca na podlagi umetne inteligence, zaradi česar bo avtomobil postal resnično inteligenten robot na kolesih. Skupaj z razvojem humanoidnih robotov je možnost gospodarske proizvodnje skoraj neomejena.

Z optimističnega vidika se pomikamo proti prihodnosti izjemnega materialnega izobilja, kar je po mojem mnenju najverjetnejši izid. Mislim, da bo edino možno pomanjkanje v prihodnosti pomanjkanje, ki ga ustvarimo umetno, kot so nekatera unikatna umetniška dela ali posebni predmeti. Toda poleg tega bo kakršno koli blago in storitve postalo izjemno bogato.

Diamandis: Ste oseba, ki lahko s praktičnimi dejanji oblikuje prihodnost in imate oster vpogled v prihodnje trende. Spričo hitrega razvoja trenutne tehnologije me zelo zanima, kako daleč v prihodnost mislite, da lahko vpogledate, torej koliko let bodo razvojni trendi od zdaj naprej?

Musk: V dobi hitrih sprememb postaja sposobnost napovedovanja prihodnosti vse pomembnejša. Čeprav je prihodnost polna negotovosti, menim, da so nekateri trendi jasno vidni. Vstopili bomo v dobo umetne inteligence in njene sposobnosti bodo dosegle ali celo presegle človeško raven pri kateri koli kognitivni nalogi. To je samo vprašanje časa. Ljudje imajo lahko različne poglede na to, ali bo konec naslednjega leta, dveh let ali treh let. Nekaj ​​pa je gotovo, to je, da ne bo presegla pet let. Moja napoved temelji na 50-odstotni verjetnosti, ki pa ni absolutna. Toda po moji presoji bo umetna inteligenca verjetno še pred koncem prihodnjega leta v nekaterih pogledih presegla sposobnosti vsakega posameznega človeka.

Glede tega, ali presega človeško kolektivno modrost, lahko traja dlje. Če se bo hitrost sprememb nadaljevala, ocenjujem, da bo okoli leta 2029 ali 2030 digitalna inteligenca verjetno presegla vsoto vse človeške inteligence. Pri obravnavanju teh vprašanj se nagibam k uporabi metode osnovnih razmerij, tako kot prva načela v fiziki. S kombinacijo te metode z verjetnostno analizo lahko natančneje dojamemo prihodnje razvojne trende.

Če primerjamo zmožnosti digitalnega računalništva z biološkim računalništvom in seštejemo vse človeške napredne kognitivne sposobnosti kot neke vrste računalniško moč, nato pa to primerjamo z digitalno računalniško močjo, boste ugotovili, da je stopnja rasti tega razmerja osupljiva. Zato verjamem, da je leto 2029 ali 2030 razumno časovno vozlišče. Takrat bo akumulirana digitalna računalniška moč verjetno presegla akumulirano biološko računalniško moč naprednih možganskih funkcij. Od takrat se bo razlika med obema še povečevala in ne bo več možnosti, da bi se zmanjšala.

Kako pa se bodo stvari razvijale naprej, ko stojimo na tem izhodišču in se veselimo prihodnosti? Če sem iskren, ne morem predvideti vseh podrobnosti. Toda če upoštevamo dejavnike rasti in omejevalne dejavnike, s katerimi se lahko soočijo, bomo našli nekaj zanimivih sledi.

Lansko leto so bile omejitve pri dobavi čipov glavni omejevalni dejavnik za razvoj umetne inteligence. Letos bodo padajoči transformatorji postali ključno ozko grlo. Predstavljajte si, da zmanjšate napetost 300 kilovoltov na manj kot 1 volt, ki ga potrebuje računalnik. To je velik izziv. Zato potrebujemo učinkovitejše "transformatorje za transformatorje", ki so padajoči transformatorji ali transformatorji nevronske mreže AI. To je letos res velik problem.

V prihodnjih nekaj letih lahko oskrba z električno energijo postane glavni omejevalni dejavnik. Umetna inteligenca ima ogromno povpraševanje po električni energiji, prehod na trajnostno energijo in priljubljenost električnih vozil pa sta povečala tudi povpraševanje po električni energiji. Zato moramo resno razmisliti o tem, kako zadostiti naraščajočemu povpraševanju po električni energiji, da zagotovimo stalen razvoj in uporabo teh tehnologij.