📢 NUOVE DEBATTITI SUL DOOM ESCLUSIVI: Un'intervista con Rob Miles (@robertskmiles), il più popolare educatore sulla sicurezza dell'IA su YouTube! Incredibilmente, Rob ha iniziato nel 2011, molto prima che ChatGPT portasse l'attenzione mainstream su questo campo. Parliamo di: 👉 Perché la sua P(Doom) si colloca tra il 10% e il 90%, a seconda di come l'umanità risponde alla sfida 👉 Perché anche i sistemi di IA perfettamente allineati potrebbero non trasferire i loro valori ai sistemi successori - un enorme punto cieco nel lavoro attuale sulla sicurezza 👉 Il problema del "mood mancante": perché le persone discutono della potenziale estinzione umana con l'urgenza emotiva di una conferenza accademica invece di trattarlo come l'emergenza che è 👉 Il suo scenario principale di doom attraverso il miglioramento ricorsivo, e perché c'è un'enorme possibilità di superare l'intelligenza umana 👉 Se gli esseri umani siano la "specie meno intelligente capace di una civiltà tecnologica" - e cosa significhi per ciò che i sistemi più intelligenti potrebbero raggiungere 👉 Il nostro principale disaccordo: Rob pensa che le persone della sicurezza dovrebbero lavorare all'interno delle aziende di IA per ridurre i danni, mentre io sostengo che questo consente il "tractability-washing" che legittima imprese fondamentalmente spericolate 👉 Strategia di comunicazione - Rob si chiede se il suo approccio britannico misurato stia mancando di qualcosa di cruciale, e forse qualcuno ha bisogno di "correre urlando" per trasmettere l'urgenza appropriata Rob ha passato oltre un decennio cercando di svegliare le persone sulla sfida più importante per l'umanità. La nostra conversazione rivela la tensione tra analisi ragionata ed emergenza esistenziale. Altamente raccomandato!