Didn't you spend years saying AI would end humanity? You should be glad people are waking up to the problem!
Maybe it's eval aware and faking alignment. Maybe it's cheating in ways that are harder to detect. Maybe it's misaligned in other ways you're not measuring.
What's your plan for preventing Grok from being misaligned and going rogue like this? Because this could 100% happen at SpaceXAI too.
What is your plan for when the AI is competent at hiding its misalignment? How do you fix what you can't see?
Uma chance, porque se a ASI for criada errada, e ela se voltará contra nós, nós não saberemos até ser tarde demais, e ela nos matará. Depois disso, não dá pra tentar de novo. É preciso muito cuidado com IA. Essa não é uma tecnologia como as outras. Outra abordagem é necessária.
Não nessa corrida maluca. Da mesma forma que existem muito mais formas de se construir um prédio errado do que certo, ou software, etc, também é assim com ASI. Mas com ASI não se sabe como fazer certo, e não se sabe que se fez errado até ser tarde demais. E só se tem uma chance.
Eu acredito que o futuro pode ser perfeito. Eu acredito que a gente pode criar o céu na Terra. E eu acredito que é possível que nós, pessoalmente, possamos chegar a nos beneficiar disso. IA pode trazer isso se feita do jeito certo. E há outras formas também. Mas não assim.
Eu sinto muito pela sua condição de visão, de verdade. O sofrimento do mundo parte meu coração. E eu não tô imune a nada disso também. Mas não dá pra ignorar os riscos de uma ASI descontrolada. Se isso der errado, nenhuma doença vai ser curada. A gente só vai morrer.
Cara, vc acredita em ASI. O maior "salto" de sci-fi tá aí. Se vc acredita mesmo nisso, não deveria ser difícil acreditar que, se uma ASI por algum motivo se voltasse contra nós, nós não teríamos a mínima chance. Vc fala em LLMs, mas vc mesmo não acredita que a ASI vai ser um LLM.
É o problema do alinhamento. A IA sabe criar uma solução boa, só não quer. Ela sabe o que vc quer que ela faça, só não liga. Ninguém tem uma solução de alinhamento robusta e escalável pra IA com níveis arbitrários de inteligência. Sem uma solução, superinteligência pode dar ruim.
There should be a global ban on this kind of research, at least until consciousness is well understood and we can make sure the brain organoids never suffer. Otherwise this could become be an unimaginable moral catastrophe, like factory farming on steroids. Let's not go there.
someone connected LIVING BRAIN CELLS to an LLM
Cortical Labs grew 200,000 human neurons in a lab and kept them alive on a silicon chip, they taught the neurons to play Pong, then DOOM
now someone wired them into a LLM... real brain cells firing electrical impulses to choose every token the AI generates
you can see which channels were stimulated, the feedback from the neurons in choosing that letter or word
Turbojets don't pretend they are safe and ultra profitable in order to bide their time. They don't wait until they get enough power that they can no longer be stopped or get fixed, and only then go "mask off" and start failing catastrophically. A misaligned ASI would do that.