Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Liron Shapira
Vert for Doom-debatter – uenigheter som må løses før verden går under.
Du kan *tro* at dette beviser utover enhver tvil eksistensen av høy generell intelligens, men det viser faktisk bare at det er mulig å lære en spesifikk kombinasjon av ferdigheter fra kulturen rundt deg. Med de riktige opplæringsdataene kan du tilpasse mønsteret til neste trinn i renromsbyggingen.
918
📢 EKSKLUSIVT NYE DOOM-DEBATTER: Et intervju med Rob Miles (@robertskmiles), den mest populære AI-sikkerhetspedagogen på YouTube!
Utrolig nok fikk Rob sin start i 2011, lenge før ChatGPT brakte mainstream oppmerksomhet til feltet. Vi snakker om:
👉 Hvorfor hans P(Doom) ligger mellom 10-90 %, avhengig av hvordan menneskeheten reagerer på utfordringen
👉 Hvorfor selv perfekt justerte AI-systemer kanskje ikke overfører verdiene sine til etterfølgende systemer - en massiv blindsone i dagens sikkerhetsarbeid
👉 «Manglende humør»-problemet: hvorfor folk diskuterer potensiell menneskelig utryddelse med den emosjonelle presserende nødvendigheten av en akademisk konferanse i stedet for å behandle den som den nødsituasjonen den er
👉 Hans viktigste undergangsscenario gjennom rekursiv selvforbedring, og hvorfor det er enorm takhøyde over menneskelig intelligens
👉 Om mennesker er den "minst intelligente arten som er i stand til teknologisk sivilisasjon" - og hva det betyr for hva smartere systemer kan oppnå
👉 Vår viktigste uenighet: Rob mener sikkerhetsfolk bør jobbe i AI-selskaper for skadereduksjon, mens jeg hevder at dette muliggjør «traktabilitetsvasking» som legitimerer fundamentalt hensynsløse bedrifter
👉 Kommunikasjonsstrategi - Rob lurer på om hans avmålte britiske tilnærming mangler noe avgjørende, og kanskje noen må "løpe rundt og skrike" for å formidle passende hastverk
Rob har brukt over et tiår på å prøve å vekke folk til menneskehetens viktigste utfordring. Samtalen vår avslører spenningen mellom begrunnet analyse og eksistensiell nødsituasjon. Sterkt anbefalt!
12,67K
Hvordan var idiokrati så nøyaktig

Elon Musk21. aug., 20:53
Ani er ok 👌
6,21K
Liron Shapira lagt ut på nytt
Det er en morsom ting der økonomiutdanning paradoksalt nok gjør folk dummere til å tenke på fremtidig AI. Econ-lærebøker lærer konsepter og rammer som er gode for det meste, men kontraproduktive for å tenke på AGI. Her er 4 eksempler. Langpost:
DEN FØRSTE delen av Econs anti-pedagogikk gjemmer seg i ordene «arbeid» og «kapital». Disse ordene blander sammen en overfladisk forskjell (menneske av kjøtt og blod vs ikke) med en bunt uuttalte antagelser og intuisjoner, som alle vil bli ødelagt av kunstig generell intelligens (AGI).
Med "AGI" mener jeg her "en bunt med brikker, algoritmer, elektrisitet og/eller fjernstyrte roboter som autonomt kan gjøre den typen ting som ambisiøse menneskelige voksne kan gjøre – grunnlegge og drive nye selskaper, FoU, lære nye ferdigheter, bruke vilkårlige fjernstyrte roboter etter svært lite øvelse, etc."
Ja jeg vet, dette eksisterer ikke ennå! (Til tross for hype om det motsatte.) Prøv å be en LLM om å autonomt skrive en forretningsplan, grunnlegge et selskap, og deretter drive og utvide det i årevis som administrerende direktør. Lol! Det vil krasje og brenne! Men det er en begrensning for dagens LLM-er, ikke for "all AI for alltid". AI som kan klare den oppgaven, og mye mer utover, er åpenbart mulig – menneskelige hjerner og kropper og samfunn er ikke drevet av magisk trolldom for alltid utenfor vitenskapens rekkevidde. Jeg for min del forventer slik AI i min levetid, på godt og vondt. (Sannsynligvis "verre", se nedenfor.)
Nå, er denne typen AGI «arbeid» eller «kapital»? Vel, det er ikke et menneske av kjøtt og blod. Men det er mer som «arbeid» enn «kapital» på mange andre måter:
• Kapitalen kan ikke bare reise seg og gjøre ting av seg selv? AGI kan.
• Nye teknologier tar lang tid å integrere seg i økonomien? Spør deg selv: hvordan klarer høyt kvalifiserte, erfarne og gründeraktige innvandrere å integrere seg i økonomien umiddelbart? Når du har svart på det spørsmålet, vær oppmerksom på at AGI også vil kunne gjøre disse tingene.
• Kapitalen ligger uvirksom hvis det ikke er noen mennesker som er villige og i stand til å bruke den? Vel, disse innvandrermenneskene sitter ikke uvirksomme. Og det vil ikke AGI heller.
• Kapitalen kan ikke gå inn for politiske rettigheter, eller starte kupp? Brønn...
Uansett, folk ser sci-fi-robotfilmer, og de skjønner dette! Så tar de økonomikurs, og det gjør dem dummere.
(Ja jeg vet, #NotAllEconomists osv.)
DEN ANDRE delen av Econs antipedagogikk er å innpode en standardantagelse om at det er mulig for et marked å komme i likevekt. Men markedet for AGI kan ikke: AGI kombinerer en egenskap ved arbeidsmarkeder med en egenskap ved produktmarkeder, der disse egenskapene er gjensidig utelukkende. Disse egenskapene er:
• (A) «INGEN KLUMP MED ARBEIDSKRAFT»: Hvis den menneskelige befolkningen går opp, faller lønningene på veldig kort sikt, fordi etterspørselskurven for arbeidskraft skråner nedover. Men på lengre sikt finner folk nye produktive ting å gjøre – etterspørselskurven beveger seg riktig. Om noe, går verdien av arbeid oppover, ikke ned, med befolkningen! F.eks. er tette byer vekstmotorer!
• (B) «ERFARINGSKURVER»: Hvis etterspørselen etter et produkt øker, er det prisøkning på veldig kort sikt, fordi tilbudskurven skråner oppover. Men på lengre sikt øker folk produksjonen – tilbudskurven beveger seg riktig. Om noe, går prisen NED, ikke opp, med etterspørselen, takket være stordriftsfordeler og FoU.
QUIZ: Med tanke på (A) og (B), hva er likevektsprisen på denne AGI-pakken (brikker, algoritmer, elektrisitet, fjernstyrte roboter, etc.)?
… Triks spørsmål! Det er ingen likevekt. Våre to prinsipper, (A) «ingen klump arbeid» og (B) «erfaringskurver», gjør likevekt umulig:
• Hvis prisen er lav, sier (A) at etterspørselskurven raser mot høyre – det er ingen klump arbeidskraft, derfor er det massiv fortjeneste å tjene på dyktige gründer-AGI-er som finner nye produktive ting å gjøre.
• Hvis prisen er høy, sier (B) at tilbudskurven raser mot høyre – det er massiv fortjeneste å hente ved å øke produksjonen av AGI.
• Hvis prisen er i mellom, så raser etterspørselskurven og tilbudskurven BEGGE til høyre!
Dette er verken kapital eller arbeid slik vi kjenner det. I stedet for at markedet for AGI kommer i likevekt, danner det en positiv tilbakemeldingssløyfe / evighetsmaskin som eksploderer eksponentielt.
Høres det absurd ut? Det er en presedens: mennesker! Menneskeverdenen, som helhet, er allerede en positiv tilbakemeldingssløyfe / evighetsmaskin av denne typen! Mennesker startet seg opp fra noen få tusen homininer til 8 milliarder mennesker som drev en økonomi på 80 milliarder dollar.
Hvordan? Det er ikke bokstavelig talt en evighetsmaskin. Snarere er det en motor som trekker fra brønnen av "ennå ikke utnyttede økonomiske muligheter". Men husk «No Lump of Labor»: brønnen av ennå ikke utnyttede økonomiske muligheter er ~uendelig dyp. Vi har ikke gått tom for mulige selskaper å grunnlegge. Ingen har laget en Dyson-sverm ennå.
Det er bare så mange mennesker som kan grunnlegge selskaper og utnytte nye muligheter. Men den positive tilbakemeldingssløyfen til AGI har ingen slik grense. Doblingstiden kan være kort:
Se for deg en autonom fabrikk som kan bygge en identisk autonom fabrikk, som deretter bygger to til osv., ved å bruke bare allment tilgjengelige innsatsmaterialer og sollys. Lærebøker i økonomi snakker ikke om det. Men lærebøker i biologi gjør det! En cyanobakterie er en slik fabrikk, og kan doble seg på en dag (≈ googol prosent årlig vekstrate 😛 ).
Uansett, vi vet ikke hvor eksplosiv den positive tilbakemeldingssløyfen til AGI som bygger AGI vil være, men jeg forventer at den vil være lysår utover noe i økonomisk historie.
DEN TREDJE DELEN av Econs antipedagogikk er dens promotering av BNP-vekst som en proxy for fremgang og endring. Tvert imot er det mulig for verden å forvandle seg til et vilt sci-fi-land hinsides all anerkjennelse eller forståelse hver måned, måned etter måned, uten at «BNP-veksten» faktisk er så høy. BNP er en morsom beregning, og spesielt dårlig til å beskrive virkningen av transformative teknologiske revolusjoner. (For eksempel, hvis noe ny teknologi er billig, og i mellomtiden andre sektorer av økonomien forblir dyre på grunn av regulatoriske restriksjoner, kan det hende at den nye teknologien ikke påvirker BNP mye, uansett hvor mye den snur opp ned på verden.) Jeg mener, klart vi kan krangle om BNP, men vi bør ikke behandle det som en proxy-kamp om hvorvidt AGI vil være en stor sak eller ikke.
Sist og viktigst, DEN FJERDE DELEN AV ECON-antipedagogikken er fokuset på «gjensidig fordelaktige handler» fremfor å «drepe folk og ta tingene deres». Econ 101 beviser at handel er egoistisk bedre enn isolasjon. Men noen ganger er det å «drepe folk og ta tingene deres» egoistisk best av alt.
Når vi snakker om AGI, snakker vi om å skape en ny intelligent art på jorden, en som til slutt vil være raskere, smartere, bedre koordinert og mer tallrik enn mennesker.
Normale mennesker, folk som har sett sci-fi-filmer om roboter og romvesener, folk som har lært historien om kolonialisme og slaveri, vil umiddelbart stille mange fornuftige spørsmål her. «Hva vil deres motiver være?» «Hvem vil ha den harde makten?» «Hvis de virker vennlige og samarbeidsvillige tidlig, kan de stikke oss i ryggen når de blir kraftigere?»
Dette er utmerkede spørsmål! Vi bør definitivt stille disse spørsmålene! (FWIW, dette er mitt ekspertiseområde, og jeg er veldig pessimistisk.)
… Og så tar de normale menneskene økonomitimer, og ender opp dummere. De slutter å stille disse spørsmålene. I stedet "lærer" de at AGI er "kapital", litt som en sprøytestøpemaskin. Sprøytestøpemaskiner ville ikke utslette mennesker og styre verden alene. Så vi har det bra. Lol.
39,15K
.@paulg må være en fan av Ms. Rachel.
De bruker begge det samme unnvikende trikset: å behandle de to nodene (israelsk handling)→(sivile tap) som hele årsakssammenhengen å uttale seg om.
Spørsmål: Bør menneskelige skjold få lov til å fungere?
Svar: Enhver ikke-stridendes liv er verdt det samme 🧘


Liron Shapira10. aug., 16:33
Hei @paulg, din deltakelse i denne diskursen fortsetter å være frustrerende uproduktiv.
"Føler du ikke empati???" er det samme begge sider sier. Hver israeler ble krigsskriket på i dag også, med våre skjelettgisler som fortsatt blir sultet en annen dag. Føler *du* ingen empati??? Ok da, vi føler begge empati.
Empati, i motsetning til hva du ser ut til å antyde i dine pågående tweets, innebærer ikke at en bestemt plan for Israel for å forsvare sin suverenitet mot den fortsatt bestemte fienden er bedre enn en annen. Det er ikke noe enkelt "bare slutt å forårsake død"-alternativ. Hamas stilte store krav om våpenhvile.
Bare fortell oss hva målet ditt er. Du vet at «å forhindre død» ikke er et klargjørende svar om din posisjon. Man må utvide sin kontekst og floke seg inn i det større kausale nettet for å gi et svar.
Vil du at suveren jødisk kontroll over Israel skal ta slutt? Du foretrekker å la islamister fritt «vende tilbake» til det?
Ikke legge ord i munnen din, ikke kalle deg antisemittisk. Bare å be om at du for kvalitetsdiskursens skyld gir oss mer kontekst om dine ønskede resultater i stedet for bare å spille den ene siden av et symmetrisk empatikort.

3,84K
Topp
Rangering
Favoritter
Trendende onchain
Trendende på X
Nylig toppfinansiering
Mest lagt merke til