Ville Seppälä on erityisen kiinnostunut eksistentiaalien riskien arvioinnista ja hallinnasta.

Jakson alkupuolella käsitellään arvioita ihmiskunnan tuhoutumisen todennäköisyyksistä lähitulevaisuudessa, keskittyen erityisesti Existential Risk Persuasion turnauksen (eli XPT:n) tuloksiin.

Myöhemmin jaksossa keskustelemme m.m. siitä, mistä Villen kiinnostus x-riskejä kohtaan tulee, kuinka x-riskejä voi pienentää ja mikä antaa toivoa kauhuskenaarioita käsitellessä.

Raportti, johon toistuvasti viitataan:

Forecasting Existential Risks: Evidence from a Long-Run Forecasting Tournament, https://forecastingresearch.org/research/existential-risk-persuasion-tournament

Villen suositukset:

• The Precipice, Toby Ord, kirja, https://theprecipice.com/
• Ihmiskunnan tulevaisuuden historia, Will MacAskill, kirja, (alkuperäinen nimi: What We Owe The Future) https://whatweowethefuture.com/uk/
• Essays on Longtermism, useampi kirjoittaja, kirja, https://doi.org/10.1093/9780191979972.001.0001
• Threads, BBC elokuva vuodelta 1984. https://www.youtube.com/watch?v=6fad-DAsVCw

Muuta mainittua:

• Tutke: Turvallisen tekoälyn keskus, asiantuntijaverkosto, https://tutke.org/

• ALLFED, organisaatio, https://allfed.info/
• Moraalinen kunnianhimo, Rutger Bregman, kirja.
• Derek Parfit, esim. Reasons and Persons, kirja. Kumpikaan ei ollut lukenut, mutta liittyi suositukseen miettiä populaatioetiikkaa.

Tässä Kun kaikkea ei voi tehdä -jaksossa Karla Still on vaihtanut vieraan paikalle, kun Vera Sundström johtaa keskustelua. Karlaa ei haittaa verkostoitumisen transaktionaalinen luonne, vaan hän näkee sen mahdollistajana yhteistyölle ja toisten tukemiseksi. Verkostoitumisvinkkien lisäksi keskustellaan siitä, minkälainen yhteisö efektiivinen altruismi on: niin sen vahvuuksista kuin siitä missä olisi parannettavaa. Kuulijalle jää päätettäväksi päästäänkö vihdoinkin tyydyttävään vastaukseen iänikuiseen kysymykseen: onko efektiivinen altruismi kultti?

Karlan suositukset aiheeseen liittyen:

80,000 Hours artikkeli. How to network towards a more fulfilling career.

https://80000hours.org/career-guide/how-to-network/

Vera Sundström kuuli efektiivisestä altruismista ensimmäistä kertaa puolisen vuotta sitten, ja osallistui heti yliopistotoimintaan. Podissa Vera kertoo miten hänen mielipiteensä on muuttunut vuoden aikana, kuten siitä miksi hän nykyään pitää tekoälyn eksistentiaalisia riskejä varteenotettavina, vaikka vuosi sitten olisi pitänyt sitä täysin hörhöjen hypenä. Keskustelemme myös yleisemmin siitä minkälaisena Vera on kokenut efektiivisen altruismin.

Veran suositukset:

• Efektiivisen altruismin intro-ohjelma sekä in-depth ohjelma. Tietoa ohjelmista löydät sivulta https://www.altruismi.fi/ Sivuston alapalkista pääset uutiskirjeen tilaajaksi, jos haluat tiedon ohjelmien ilmoittautumisista.

• Dwarkesh podcast: AI 2027: month-by-month model of intelligence explosion — Scott Alexander & Daniel Kokotajlo https://www.youtube.com/watch?v=htOvH12T7mU