Saatat ajatella, että tämä todistaa kiistatta korkean yleisen älykkyyden olemassaolon, mutta itse asiassa se vain osoittaa, että on mahdollista oppia tietty taitoyhdistelmä ympäröivästä kulttuurista. Oikeiden koulutustietojen avulla voit vastata seuraavaan puhdastilan rakennusvaiheeseen.

Tekoäly ei rakasta sinua eikä vihaa sinua, mutta kehosi on tehty vedestä, jota se voi käyttää datakeskuksensa jäähdyttämiseen

📢 NEW DOOM DEBATES EXCLUSIVE: Haastattelu Rob Milesin (@robertskmiles), YouTuben suosituimman tekoälyturvallisuuskouluttajan kanssa! Hämmästyttävää kyllä, Rob aloitti vuonna 2011, kauan ennen kuin ChatGPT toi valtavirran huomion alalle. Puhumme: 👉 Miksi hänen P(Doom) on 10-90 prosentin välillä riippuen siitä, miten ihmiskunta vastaa haasteeseen 👉 Miksi edes täydellisesti kohdistetut tekoälyjärjestelmät eivät välttämättä siirrä arvojaan seuraajajärjestelmille - valtava sokea piste nykyisessä turvallisuustyössä 👉 "Puuttuvan mielialan" ongelma: miksi ihmiset keskustelevat ihmisen mahdollisesta sukupuuttoon kuolemisesta akateemisen konferenssin emotionaalisella kiireellisyydellä sen sijaan, että kohtelisivat sitä hätätilana 👉 Hänen päälinjan tuhoskenaarionsa rekursiivisen itsensä kehittämisen kautta ja miksi ihmisälyn yläpuolella on valtavasti liikkumavaraa 👉 Ovatko ihmiset "vähiten älykkäitä lajeja, jotka kykenevät teknologiseen sivilisaatioon" - ja mitä se tarkoittaa sille, mitä älykkäämmät järjestelmät voisivat saavuttaa 👉 Keskeinen erimielisyytemme: Robin mielestä turvallisuusihmisten tulisi työskennellä tekoälyyrityksissä haittojen vähentämiseksi, kun taas väitän, että tämä mahdollistaa "hallittavuuspesun", joka legitimoi pohjimmiltaan holtittomat yritykset 👉 Viestintästrategia - Rob miettii, puuttuuko hänen harkitusta brittiläisestä lähestymistavastaan jotain ratkaisevaa, ja ehkä jonkun pitäisi "juosta ympäriinsä huutaen" välittääkseen sopivan kiireellisyyden Rob on käyttänyt yli vuosikymmenen yrittäessään herättää ihmisiä ihmiskunnan tärkeimpään haasteeseen. Keskustelumme paljastaa jännitteen perustellun analyysin ja eksistentiaalisen hätätilan välillä. Erittäin suositeltavaa!

Uskomaton haastattelu. Onnittelut @liron Rakastin kuulla@VitalikButerin kattaa niin monia tekoälymaiseman näkökohtia. Olen 50% mukana haastattelussa ja rakastan sitä toistaiseksi!

Valmistaudu @robertskmiles...

Miten idiokratia oli niin tarkka

On hauska juttu, jossa taloustieteen koulutus tekee paradoksaalisesti ihmisistä tyhmempiä ajattelemaan tulevaisuuden tekoälyä. Econ-oppikirjat opettavat käsitteitä ja kehyksiä, jotka ovat hyviä useimpiin asioihin, mutta haitallisia AGI:n ajattelemiselle. Tässä on 4 esimerkkiä. Pitkä posti: Ensimmäinen osa taloustieteen antipedagogiikkaa kätkeytyy sanoihin "työ" ja "pääoma". Nämä sanat yhdistävät pinnallisen eron (lihaa ja verta oleva ihminen vs. ei) nippuun lausumattomia oletuksia ja intuitioita, jotka kaikki murtuu tekoälyn (AGI) toimesta. "AGI:llä" tarkoitan tässä "nippua siruja, algoritmeja, sähköä ja/tai kauko-ohjattavia robotteja, jotka voivat itsenäisesti tehdä sellaisia asioita, joita kunnianhimoiset aikuiset voivat tehdä – perustaa ja johtaa uusia yrityksiä, T&K:ta, oppia uusia taitoja, käyttää mielivaltaisia kauko-ohjattavia robotteja hyvin vähäisen harjoittelun jälkeen jne." Kyllä tiedän, tätä ei ole vielä olemassa! (Päinvastaisesta hypestä huolimatta.) Yritä pyytää LLM:ää kirjoittamaan itsenäisesti liiketoimintasuunnitelma, perustamaan yritys ja johtamaan ja kasvattamaan sitä vuosia toimitusjohtajana. Hahhaa! Se kaatuu ja palaa! Mutta se on nykypäivän LLM:ien rajoitus, ei "kaiken tekoälyn ikuisesti". Tekoäly, joka voisi onnistua tässä tehtävässä, ja paljon muutakin, on tietysti mahdollista – ihmisaivot, -kehot ja -yhteiskunnat eivät saa voimansa jostain maagisesta noituudesta, joka on ikuisesti tieteen ulottumattomissa. Minä ainakin odotan tällaista tekoälyä elinaikanani, hyvässä tai pahassa. (Luultavasti "pahempi", katso alla.) Onko tällainen AGI "työtä" vai "pääomaa"? No, se ei ole lihaa ja verta oleva ihminen. Mutta se muistuttaa enemmän "työtä" kuin "pääomaa" monessa muussa suhteessa: • Pääoma ei voi vain nousta ja tehdä asioita itse? AGI voi. • Uusien teknologioiden integrointi talouteen kestää kauan? Kysy itseltäsi: miten korkeasti koulutetut, kokeneet ja yrittäjähenkiset maahanmuuttajaihmiset onnistuvat integroitumaan talouteen välittömästi? Kun olet vastannut tähän kysymykseen, huomaa, että AGI pystyy tekemään myös nämä asiat. • Pääoma istuu toimettomana, jos ei ole ihmisiä, jotka haluavat ja pystyvät käyttämään sitä? No, nuo maahanmuuttajaihmiset eivät istu toimettomina. Eikä myöskään AGI. • Pääoma ei voi puolustaa poliittisia oikeuksia tai käynnistää vallankaappauksia? Kaivo... Joka tapauksessa ihmiset näkevät scifi-robottielokuvia, ja he ymmärtävät tämän! Sitten he käyvät taloustieteen kursseja, ja se tekee heistä tyhmempiä. (Kyllä tiedän, #NotAllEconomists jne.) Econin antipedagogiikan toinen osa juurruttaa oletusolettamuksen, että markkinoiden on mahdollista tasapainottua. AGI:n markkinat eivät kuitenkaan voi: AGI yhdistää työmarkkinoiden ominaisuuden tuotemarkkinoiden ominaisuuteen, jossa nämä ominaisuudet ovat toisensa poissulkevia. Nämä ominaisuudet ovat: • (A) "EI TYÖMÖYKKYÄ": Jos ihmisväestö kasvaa, palkat laskevat hyvin lyhyellä aikavälillä, koska työvoiman kysyntäkäyrä laskee alaspäin. Mutta pidemmällä aikavälillä ihmiset löytävät uutta tuottavaa tekemistä – kysyntäkäyrä liikkuu oikealle. Jos jotain, niin työn arvo nousee, ei laskee, väestön mukana! Esimerkiksi tiiviit kaupungit ovat kasvun moottoreita! • (B) "KOKEMUSKÄYRÄT": Jos tuotteen kysyntä kasvaa, hinta nousee hyvin lyhyellä aikavälillä, koska tarjontakäyrä nousee ylöspäin. Mutta pidemmällä aikavälillä ihmiset lisäävät valmistusta – tarjontakäyrä liikkuu oikealle. Jos jotain, hinta laskee, ei nouse, kysynnän mukana, mittakaavaetujen ja T&K:n ansiosta. TIETOKILPAILU: Kun otetaan huomioon (A) ja (B), mikä on tämän AGI-paketin tasapainohinta (sirut, algoritmit, sähkö, kauko-ohjattavat robotit jne.)? … Temppu kysymys! Tasapainoa ei ole. Kaksi periaatettamme, (A) "ei työmöykkyä" ja (B) "kokemuskäyrät", tekevät tasapainon mahdottomaksi: • Jos hinta on alhainen, (A) sanoo, että kysyntäkäyrä juoksee oikealle – työvoimaa ei ole, joten ammattitaitoiset yrittäjähenkiset AGI:t voivat tehdä valtavasti voittoa, kun he löytävät uusia tuottavia asioita. • Jos hinta on korkea, (B) sanoo, että tarjontakäyrä kilpailee oikealle – AGI:n valmistuksen lisäämisestä voidaan tehdä valtavaa voittoa. • Jos hinta on siltä väliltä, kysyntäkäyrä ja tarjontakäyrä kilpailevat MOLEMMAT oikealle! Tämä ei ole pääomaa eikä työtä sellaisena kuin me sen tunnemme. AGI:n tasapainottamisen sijaan se muodostaa positiivisen takaisinkytkentäsilmukan / ikiliikkujan, joka räjähtää eksponentiaalisesti. Kuulostaako absurdilta? On olemassa ennakkotapaus: ihmiset! Ihmisten maailma on kokonaisuutena jo tämän tyyppinen positiivinen takaisinkytkentäsilmukka / ikiliikkuja! Ihmiset nostivat itsensä muutamasta tuhannesta hominiinista 8 miljardiin ihmiseen, jotka pyörittivät 80 miljardin dollarin taloutta. Kuinka? Se ei ole kirjaimellisesti ikiliikkuja. Pikemminkin se on moottori, joka ammentaa "vielä hyödyntämättömien taloudellisten mahdollisuuksien" lähteestä. Mutta muista "No Lump of Labor": vielä hyödyntämättömien taloudellisten mahdollisuuksien kaivo on ~äärettömän syvä. Mahdolliset perustavat yritykset eivät ole loppuneet. Kukaan ei ole vielä tehnyt Dyson-parvea. On vain niin monta ihmistä, jotka perustavat yrityksiä ja hyödyntävät uusia mahdollisuuksia. Mutta AGI:n positiivisella takaisinkytkentäsilmukalla ei ole tällaista rajaa. Kaksinkertaistumisaika voi olla todella lyhyt: Kuvittele autonominen tehdas, joka voi rakentaa identtisen autonomisen tehtaan, joka sitten rakentaa kaksi lisää jne. Taloustieteen oppikirjat eivät puhu siitä. Mutta biologian oppikirjat tekevät! Syanobakteeri on tällainen tehdas, ja se voi kaksinkertaistua päivässä (≈ googol-prosentin vuotuinen kasvuvauhti). 😛 Joka tapauksessa, emme tiedä, kuinka räjähdysherkkä AGI:n rakentamisen positiivinen takaisinkytkentäsilmukka on, mutta odotan sen olevan valovuosia enemmän kuin mikään taloushistoriassa. Kolmas osa Econin antipedagogiikkaa on BKT:n kasvun edistäminen edistyksen ja muutoksen välittäjänä. Päinvastoin, on mahdollista, että maailma muuttuu villiksi scifi-maaksi, jota ei voi tunnistaa tai ymmärtää joka kuukausi, kuukausi toisensa jälkeen, ilman, että "BKT:n kasvu" on itse asiassa kovin korkea. BKT on hauska mittari, ja erityisen huono kuvaamaan mullistavien teknologisten vallankumousten vaikutuksia. (Jos esimerkiksi jokin uusi teknologia on halpaa ja samaan aikaan muut talouden alat pysyvät kalliina sääntelyrajoitusten vuoksi, uusi teknologia ei välttämättä vaikuta BKT:hen paljon, vaikka se kuinka mullistaisi maailmaa.) Tarkoitan, että voimme toki kiistellä BKT:stä, mutta meidän ei pitäisi käsitellä sitä sijaistaisteluna siitä, onko AGI iso juttu vai ei. Viimeisenä ja tärkeimpänä, ECONin antipedagogiikan neljäs osa keskittyy "molempia osapuolia hyödyttäviin kauppoihin" "ihmisten tappamisen ja heidän tavaroidensa viemisen" sijaan. Econ 101 todistaa, että kaupankäynti on itsekkäästi parempaa kuin eristäytyminen. Mutta joskus "ihmisten tappaminen ja heidän tavaroidensa vieminen" on itsekkäästi parasta. Kun puhumme AGI:stä, puhumme uuden älykkään lajin luomisesta maapallolle, joka on lopulta nopeampi, älykkäämpi, paremmin koordinoitu ja lukuisampi kuin ihmiset. Normaalit ihmiset, ihmiset, jotka ovat nähneet scifi-elokuvia roboteista ja avaruusolennoista, ihmiset, jotka ovat oppineet kolonialismin ja orjuuden historian, kysyvät heti paljon järkeviä kysymyksiä täällä. "Mitkä ovat heidän motiivinsa?" "Kenellä on kova valta?" "Jos he vaikuttavat ystävällisiltä ja yhteistyökykyisiltä varhaisessa vaiheessa, voisivatko he puukottaa meitä selkään, kun heistä tulee voimakkaampia?" Nämä ovat erinomaisia kysymyksiä! Meidän pitäisi ehdottomasti kysyä näitä kysymyksiä! (FWIW, tämä on osaamisalueeni, ja olen hyvin pessimistinen.) … Ja sitten nuo normaalit ihmiset käyvät taloustieteen kursseja ja päätyvät tyhmempiin. He lakkaavat esittämästä noita kysymyksiä. Sen sijaan he "oppivat", että AGI on "pääoma", vähän kuin ruiskuvalukone. Ruiskuvalukoneet eivät tuhoaisi ihmisiä ja pyörittäisi maailmaa yksin. Joten olemme kunnossa. Hahhaa.

.@paulg täytyy olla neiti Rachelin fani. Molemmat käyttävät samaa välttelytemppua: käsittelevät kahta solmukohtaa (Israelin toiminta) → (siviiliuhrit) koko kausaalisena kontekstina, josta ottaa kantaa. K: Pitäisikö ihmiskilpien antaa toimia? V: Jokaisen taistelemattoman elämä on samanarvoinen 🧘

Tekoälyn perustusmalliteollisuuden liikevaihto ylittää 25 miljardia dollaria vuodessa, mikä tarkoittaa, että alan arvonluonti on ylittänyt ~250 miljardia dollaria vuodessa

Miksi @VitalikButerin on 12 % P(Doom)...