Riscos de sofrimento
De Wikipedia, a enciclopédia encyclopedia
Os riscos de sofrimento, ou riscos-s, são riscos que envolvem uma quantidade astronômica de sofrimento, muito mais do que todo o sofrimento ocorrido na Terra.[2][3] Às vezes, eles são categorizados como uma subclasse de riscos existenciais.[4]
As fontes de possíveis riscos-s incluem a inteligência artificial incorporada[5] e a superinteligência,[6] bem como a colonização espacial, que poderia levar a "guerras constantes e catastróficas"[7] e a um imenso aumento no sofrimento dos animais selvagens, introduzindo-os em outros planetas, intencional ou inadvertidamente, "geralmente com vidas curtas e miseráveis, cheias de sofrimentos às vezes brutais".[8]
Steven Umbrello, um pesquisador de ética em IA, alertou que a computação biológica pode tornar o design do sistema mais propenso a riscos-s.[5]