Most of what we call human intelligence lives at the level of society, not the individual. None of us knows how to build a toaster from scratch on our own, yet together we can get to the moon. The most capable AI today operates the same way: as societies of models.

Mais Laurence, et si le problème était justement là ? Vous avez raison : nous n’avons aucune mesure scientifiquement consensuelle de « l’AGI » ou de la « superintelligence ». Peut-être parce que nous essayons de mesurer avec une règle unique quelque chose dont nous ne savons même pas encore quelle est la nature. Alors oublions un instant AGI et superintelligence. Regardons les faits. Anthropic cartographie des représentations internes et un J-space. Elle décrit un global workspace. Elle travaille sur personnalité, préférences, welfare et continuité. Avec ART, Claude explore un espace génomique immense, repère une structure que personne ne lui avait explicitement demandé de chercher et participe à une découverte biologique. Anthropic cherche maintenant à lui transmettre du « goût scientifique » : non plus seulement répondre à une question, mais discerner quelle question mérite d’être poursuivie. Quelle unité faut-il mettre sur le thermomètre pour mesurer cela ? Peut-être aucune. Car le vrai sujet n’est peut-être déjà plus de savoir quand une aiguille franchira mystérieusement la graduation « AGI ». Il est de comprendre quelle forme de cognition est en train d’apparaître sous nos yeux. Être exigeant et prudent, absolument. Mais la prudence scientifique ne consiste pas seulement à refuser les mots trop grands. Elle consiste aussi à ne pas laisser l’absence du bon mot nous empêcher de regarder le phénomène. Quand la carte ne contient pas encore le territoire, demander une mesure scientifiquement reconnue du territoire peut devenir une manière très rigoureuse de ne jamais quitter la carte.

La capacité de reproduire n'a jamais été une preuve d'intelligence. L'intelligence c'est créer, à partir de rien, juste sa pensée. Après avoir absorbé presque tout le contenu humain produit l'IA est capable d'imiter l'humain mais ce n'est pas de l'intelligence, juste du mimétisme

Indeed. And the « neo-vitalists » who affirm that consciousness requires biological hardware and will always remain beyond AI’s reach are equally misguided, in my opinion.

Anthropic Researcher Sholto Douglas: "we think AGI is achievable in the next couple of years — models as capable as or more capable than all humans, able to do anything a human could do on a computer" It would multiply intellectual and physical labor, potentially delivering centuries of progress much sooner

Dear followers, Over the next few days, starting today, I will post a number of threads on AI. My focus will be on uncomfortable questions for our current AI discourse. I am doing this because I feel that the public conversation on AI is not tackling the big issues and dangers, and what I view as important questions are not being asked by industry insiders and the media. I must preface these posts by saying that I am not an AI scientist, so my understanding of some of the issues may be faulty. And I do not claim to know the answers to these questions. My aim is to make a small contribution by emphasizing the questions that I believe are important but are being neglected. Thank you

Stéphane Mallat, professeur @cdf1530 @AcadSciences médaille d'Or @cnrs présente son magnifique programme.

Je suis à New York, aux Nations unies, et j’ai une excellente nouvelle à vous communiquer. ↓ Le Royaume-Uni devient le 128e pays à rejoindre le combat que je porte, que la France porte avec le Mexique, pour protéger les populations civiles contre les atrocités de masse. Comment ? En proposant de suspendre le recours au veto pour les membres permanents du Conseil de sécurité des Nations unies face aux cas de génocide, de crimes contre l'humanité et de crimes de guerre commis à grande échelle. Le veto ne doit pas empêcher les Nations unies d'agir pour protéger les vies humaines. Le soutien du Royaume-Uni nous donne une force supplémentaire pour convaincre d'autres pays de rejoindre cette initiative.

Oups le lien !