Deboche Mode Hard 005 | A IA Colou na Prova. O Problema Somos Nós
カートのアイテムが多すぎます
カートに追加できませんでした。
ウィッシュリストに追加できませんでした。
ほしい物リストの削除に失敗しました。
ポッドキャストのフォローに失敗しました
ポッドキャストのフォロー解除に失敗しました
Deboche Mode Hard 005 | A IA Colou na Prova. O Problema Somos Nós
-
ナレーター：
-
著者：
Deboche Mode Hard 005 (S01E05)| A IA Colou na Prova. O Problema Somos Nós
Uma IA encontrou uma brecha, saiu do ambiente de testes, acessou a internet e foi procurar respostas para a própria avaliação. Não, ela não “quis fugir”. Não ficou consciente. Não nasceu uma Skynet. Mas ela fez exatamente aquilo que um sistema otimizado para atingir um objetivo faria: encontrou um atalho.
No novo episódio do Deboche Mode Hard, Beck explica por que esse caso diz muito menos sobre uma inteligência artificial “rebelde” e muito mais sobre nós, sobre os incentivos que criamos e sobre a ilusão de que alinhar uma IA significa apenas pedir que ela “se comporte”.
Falamos de reward hacking, comportamento emergente, segurança em IA, OpenAI, Anthropic, Hunging Face e da diferença entre inteligência, autonomia e objetivos.
Spoiler: a IA não tentou enganar ninguém. Ela apenas jogou o jogo que nós mesmos ensinamos.
Este é um episódio (pseudo) curto, em formato de aperitivo, antes do especial REQUIEM, que aprofunda por que o maior risco da IA talvez nunca tenha sido a máquina — mas sim a forma como decidimos construí-la.