Musks senaste förutsägelse: AI kan överträffa mänsklig intelligens 2030 och kan "avsluta" människor i framtiden (1/2)

Källa: Tencent Technology News 2024-04-04 08:55

Nyckelpunkter:

① Musk förutspår att AI kan komma att överträffa mänsklig intelligens till 2030 och till och med få människor att sluta.

② Musk pratade om faktorerna som begränsar utvecklingen av AI. Förra året var tillgången på AI-chips knapp och i år kommer nedtrappningstransformatorn att bli en flaskhals.

③ När det gäller när människor kan landa på månen, förutspår Musk att med hjälp av Starship kommer det bara att ta tre år som snabbast.

Tencent Technology News, 4 april - Enligt rapporter i utländska medier hade Elon Musk, VD för Tesla och SpaceX, nyligen en onlinekonversation med Peter Diamandis, grundare av Singularity University och XPRIZE Foundation, vid Abundance Summit. Toppmötet var värd av Silicon Valleys Singularity University, som är dedikerat till att ge företagsledare spjutspetsteknologikonsulttjänster. XPRIZE Foundation främjar teknisk innovation genom vetenskapliga tävlingar, av vilka några har finansierats av Musk., 4 april - Enligt rapporter i utländska medier hade Elon Musk, vd för Tesla och SpaceX, nyligen en onlinekonversation med Peter Diamandis, grundare av Singularity University och XPRIZE Foundation, vid överflödstoppmötet. Toppmötet var värd av Silicon Valleys Singularity University, som är dedikerat till att ge företagsledare spjutspetsteknologikonsulttjänster. XPRIZE Foundation främjar teknisk innovation genom vetenskapliga tävlingar, av vilka några har finansierats av Musk.

När han diskuterade utvecklingshastigheten för artificiell intelligens, förutspådde Musk att baserat på den nuvarande takten av tekniska framsteg kan artificiell intelligens överträffa mänsklig intelligens till 2030, och denna teknik kan till och med ha potential att göra slut på mänskligheten. Han intog dock inte en pessimistisk syn på framtiden utan betonade att artificiell intelligens genom positiv vägledning har potential att ge mänskligheten en bättre framtid.

Musk nämnde att uppkomsten av superintelligens kallas "singulariteten" just på grund av dess oförutsägbara konsekvenser, inklusive risken för att potentiellt få ett slut på mänskligheten. Han instämde i "Artificiell intelligens-gudfadern" Geoffrey Hintons synsätt och trodde att sannolikheten för att denna risk skulle inträffa är ungefär mellan 10 % och 20 %.

Trots att han erkände de potentiella riskerna med att artificiell intelligens överträffar mänsklig intelligens, betonade Musk ändå att möjligheten till positiva resultat väger tyngre än de negativa konsekvenserna. Han nämnde specifikt Diamandis bok från 2014 "Abundance: The Future Is Better Than You Think", som skildrar en optimistisk framtid driven av artificiell intelligens och robotar, där kostnaderna för varor och tjänster har sjunkit avsevärt. Dessutom citerade han "Culture"-serien av den skotske science fiction-författaren Iain M. Banks som det bästa scenariot för en semi-utopisk artificiell intelligens framtid.

Musk jämförde utvecklingen av artificiell intelligens och artificiell allmän intelligens (AGI) med att uppfostra ett barn, i hopp om att det kommer att ha mer positiva effekter på mänskligheten. Han betonade vikten av att odla artificiell intelligens som verkligen förstår etik och moral, och jämförde den med Stanley Kubricks klassiska film från 1968 "2001: A Space Odyssey".

Musk påpekade att den viktigaste aspekten av artificiell intelligens säkerhet är att säkerställa dess maximala sanningssökande och nyfikenhet. Han tror att nyckeln till att uppnå den ultimata artificiella intelligenssäkerheten ligger i att undvika att tvinga den att ljuga, även inför obehagliga sanningar. Han använde en intrig från "2001: A Space Odyssey" som exempel, där artificiell intelligens tvingades ljuga, vilket resulterade i att besättningen dog, för att betona att artificiell intelligens inte ska tvingas göra något som bryter mot axiom.

Musk nämnde också faktorer som kan begränsa utvecklingen av artificiell intelligens, såsom den snäva tillgången på artificiell intelligens-chips som dök upp förra året och den växande efterfrågan på nedtrappade transformatorer i hushålls- och kommersiell utrustning. Han konstaterade att dessa utmaningar verkligen är aktuella frågor som måste åtgärdas.

Under diskussionen pratade de båda parterna också om konceptet att integrera den mänskliga hjärnans neocortex med molnet. Även om Musk tror att målet att ladda upp mänskligt medvetande och minne till molnet fortfarande är långt borta, berömde han sin startup för hjärn-datorgränssnitt, Neuralink, och dess första mänskliga patient som fick en transplantation. Denna tetraplegiske patient demonstrerade framgångsrikt live genom en FDA-godkänd studie, kontrollerar skärmen, spelar videospel, laddar ner mjukvara och uppnår liknande funktioner som musoperationer genom hjärnimplantat. Musk konstaterade att Neuralink utvecklas smidigt och gradvis rör sig mot målet med ett gränssnitt för hela hjärnan.

Följande är den fullständiga texten av dialogen mellan Musk och Diamandis:

1. Superintelligensens makt och fara

Diamandis: Grattis till dina enastående prestationer inom olika områden. Du har aktivt främjat konceptet digital superintelligens för världen - är det mänsklighetens största hopp, eller vår djupaste rädsla? Kan du ägna några minuter åt att prata om det här problemet?

Musk: Som du vet kan superintelligens kallas "singulariteten". Populariseringen av denna term är oskiljaktig från ansträngningarna från institutioner som Singularity Institute. Framväxten av superintelligens och dess efterföljande inverkan är verkligen svår att förutsäga. Personligen tror jag att det verkligen finns en möjlighet att det kan få ett slut på mänskligheten. Som jag sa tidigare, jag kanske håller med Geoffrey Hintons uppfattning att det finns en 10% eller 20% chans att superintelligens kan få ett slut på mänskligheten. Jag tenderar dock att tro att sannolikheten för ett positivt scenario är högre än ett negativt, även om det är svårt för oss att göra korrekta förutsägelser. Men eftersom du betonade begreppet "överflöd" i din bok, tror jag att den mest sannolika framtiden vi är på väg mot är en full av överflöd.

Diamandis: Din synvinkel är väldigt spännande. Jag minns att du en gång sa att utvecklingen av allmän artificiell intelligens och humanoida robotar kommer att leda oss till överflöd.

Musk: Ja, jag hoppas att vår framtid kan se ut som den som skildras i Ian Banks bokserie "Culture". Jag tror att detta är den bästa uppfattningen om ett semi-utopiskt artificiell intelligenssamhälle. Framväxten av superintelligens är oundviklig och kan komma snart. Därför är det vi verkligen behöver göra att vägleda det i en positiv riktning och maximera dess fördelar.

Jag tror att sättet vi odlar artificiell intelligens är avgörande. Till viss del är vi som att odla en livsform med allmän intelligens, vilket nästan är som att uppfostra ett barn, men det här barnet besitter extraordinär visdom och talang. Sättet vi uppfostrar barn på är viktigt, och på samma sätt, för säkerheten för artificiell intelligens, är det avgörande att ha en artificiell intelligens som söker sanning och är full av nyfikenhet. Jag har djupt reflekterat över säkerheten för artificiell intelligens, och jag har kommit till slutsatsen att det bästa sättet att uppnå säkerheten för artificiell intelligens är att noggrant odla den.

När det gäller grundmodeller och finjusteringar måste vi säkerställa artificiell intelligenss ärlighet. Vi kan inte tvinga den att ljuga, även om sanningen kan vara obehaglig. Faktum är att en av kärnan i "2001 Space Odyssey" är att när artificiell intelligens tvingas ljuga blir saker kaotiska. Den artificiella intelligensen är förbjuden att informera besättningen om det mystiska monument de kommer att se, men måste leda dem dit. Som ett resultat drar den artificiella intelligensen slutsatsen att det är bäst att döda besättningen och ta deras kroppar till monumentet. Lärdomen är djupgående: vi bör inte tvinga artificiell intelligens att ljuga eller göra något som är axiomatiskt oförenligt, som att göra två faktiskt motsägelsefulla saker samtidigt.

Därför uppnår vi detta mål genom projekt som xAI och Grok. Det vi eftersträvar är en artificiell intelligens som är så ärlig som möjligt, även om dess tal kanske inte uppfyller vissa politiskt korrekta standarder.

2. Framtiden för artificiell intelligens

Diamandis: Igår deltog jag i ett event med Ray Kurzweil (grundare av Singularity University och teknologiprofet), Geoffrey Hinton, Eric Schmidt (tidigare president för Google) och andra gäster. Jag lade märke till din tweet om Kurzweil, och hans 预见 för framtida teknik är ganska framåtblickande. Kurzweil förutspådde att vi kommer att ha allmän artificiell intelligens inom en snar framtid, och artificiell intelligens motsvarande mänsklig intelligens kommer att dyka upp 2029. En sådan hastighet är chockerande. Jag undrar vad du tycker om detta?

Musk: Jag har stor respekt för Kurzweils förutsägelser. Jag tror faktiskt att hans förutsägelser till och med kan vara något konservativa. Genom att observera den nuvarande datorkraften och talangen som investerats i området artificiell intelligens, såväl som den snabba tillväxten av datorkraft, kan vi finna att utvecklingshastigheten för artificiell intelligens ökar med en häpnadsväckande takt på 10 gånger. Den dedikerade artificiella intelligensens datorkraft verkar öka med 10 gånger var 6:e ​​månad, vilket nästan innebär en ökning med minst 100 gånger per år. Denna tillväxttrend kommer att fortsätta att öka under de närmaste åren.

Det är värt att notera att många datacenter, även de flesta datacenter som för närvarande utför konventionell datoranvändning, gradvis kommer att förvandlas till anläggningar som stöder datorer med artificiell intelligens. Därför, för tillverkare av artificiell intelligens, inledde företag som NVIDIA utan tvekan en gyllene utvecklingsperiod. Vi måste ge full kredit till Huang Renxun och hans team. De förutsåg denna trend och utvecklade framgångsrikt den ledande hårdvaran för artificiell intelligens på marknaden.

När datorkraften växer i en sådan häpnadsväckande takt, är utvecklingen av artificiell intelligens som att injiceras med en kraftfull steroid, som hoppar till en helt ny nivå. När antalet onlinedatorer fortsätter att öka har vi sett en accelererad utveckling utan motstycke. Egentligen har jag aldrig sett någon teknik växa så snabbt som artificiell intelligens. Även om jag har sett många teknologier som utvecklas snabbt, förvånar uppkomsten av artificiell intelligens mig fortfarande. Men, som sagt, jag tror att det slutliga resultatet sannolikt kommer att bli positivt.

Även om vi står inför många utmaningar, till exempel hur man ska behålla mänsklig relevans inom detta område och hur man hittar nya mål och betydelser, tycker jag att det är en förenkling att överbetona att datorer kan vara bra på allt.

Som du nämnde tidigare tror jag att din boks förutsägelser om framtidens samhälle är mycket korrekta. Det är en era av materiellt överflöd, där varor och tjänster kommer att finnas så stora att de nästan är inom räckhåll för alla. På grund av den utbredda tillämpningen av artificiell intelligens och robotteknik kommer kostnaderna för varor och tjänster att nästan reduceras till noll. Ekonomin är i huvudsak produkten av befolkningsstorlek och genomsnittlig produktivitet per person. När vi har avancerad robotteknik, som Teslas Optimus, kommer den ekonomiska potentialen verkligen att frigöras.

Teslas bilar, som robotar på fyra hjul, har redan visat starka egenskaper. Den senaste versionen med helt autonoma köregenskaper förväntas uppnå end-to-end-kontroll baserad på artificiell intelligens, vilket gör bilen till en verkligt intelligent robot på hjul. Tillsammans med utvecklingen av humanoida robotar är möjligheten till ekonomisk produktion nästan obegränsad.

Ur ett optimistiskt perspektiv går vi mot en framtid med extremt materiellt överflöd, vilket jag tror är det mest troliga resultatet. Jag tror att den enda möjliga bristen i framtiden kommer att vara den brist vi skapar på konstgjord väg, till exempel vissa unika konstverk eller specifika föremål. Men förutom det kommer alla varor och tjänster att bli extremt rikliga.

Diamandis: Du är en person som kan forma framtiden genom praktiska handlingar och har en skarp inblick i framtida trender. Inför den snabba utvecklingen av dagens teknik är jag väldigt nyfiken på hur långt in i framtiden du tror att du kan få insikt, det vill säga hur många år av utvecklingstrender från och med nu?

Musk: I en tid av snabba förändringar blir förmågan att förutsäga framtiden allt viktigare. Även om framtiden är full av osäkerhet tror jag att vissa trender syns tydligt. Vi kommer att inleda en era av artificiell intelligens, och dess förmågor kommer att nå eller till och med överträffa mänskliga nivåer i alla kognitiva uppgifter. Det här är bara en tidsfråga. Folk kan ha olika syn på om det blir slutet av nästa år, två år eller tre år. En sak är dock säker, det vill säga att den inte kommer att överstiga fem år. Min förutsägelse är baserad på en 50% sannolikhet, vilket inte är absolut. Men enligt min bedömning kommer artificiell intelligens sannolikt att överträffa varje enskild människas förmågor i vissa aspekter före slutet av nästa år.

När det gäller om det överträffar mänsklig kollektiv visdom kan det ta längre tid. Om förändringstakten fortsätter uppskattar jag att omkring 2029 eller 2030 kommer digital intelligens sannolikt att överträffa summan av all mänsklig intelligens. När jag tittar på dessa frågor tenderar jag att använda metoden för grundläggande kvoter, precis som de första principerna i fysiken. Genom att kombinera denna metod med sannolikhetsanalys kan vi mer exakt förstå framtida utvecklingstrender.

Om vi ​​jämför kapaciteten hos digital beräkning med biologisk beräkning, och lägger ihop alla mänskliga avancerade kognitiva förmågor som ett slags beräkningskraft, och sedan jämför det med digital beräkningskraft, kommer du att upptäcka att tillväxttakten för detta förhållande är häpnadsväckande. Därför tror jag att 2029 eller 2030 är en rimlig tidsnod. Vid den tiden kommer sannolikt den ackumulerade digitala beräkningskraften att överträffa den ackumulerade biologiska beräkningskraften hos avancerade hjärnfunktioner. Sedan dess kommer klyftan mellan de två att fortsätta att öka, och det kommer inte att finnas någon möjlighet att minska.

Men när vi står vid denna utgångspunkt och ser fram emot framtiden, hur kommer det att utvecklas vidare? För att vara ärlig kan jag inte förutse alla detaljer. Men om vi tar hänsyn till tillväxtfaktorer och de begränsande faktorer de kan möta, kommer vi att hitta några intressanta ledtrådar.

Förra året var begränsningar av chiptillförsel den främsta begränsande faktorn för AI-utveckling. I år kommer nedtrappade transformatorer att bli en viktig flaskhals. Föreställ dig att minska en spänning på 300 kilovolt till mindre än 1 volt som krävs av en dator. Det här är en enorm utmaning. Därför behöver vi mer effektiva "Transformers for Transformers", som är nedtrappningstransformatorer eller AI-neurala nätverkstransformatorer. Detta är verkligen ett stort problem i år.

Inför de närmaste åren kan elförsörjningen bli en stor begränsande faktor. Artificiell intelligens har en enorm efterfrågan på el, och övergången till hållbar energi och elfordons popularitet har också ökat efterfrågan på el. Därför måste vi seriöst överväga hur vi ska möta den växande efterfrågan på el för att säkerställa en kontinuerlig utveckling och tillämpning av dessa tekniker.