Passionné par les projets, sûrement en train de travailler. Sprokk : co-founder 🌱
Joined June 2018
- Tweets111
- Following10
- Followers3
- Likes71
Raphaël retweeted
C'est Better Searcher (better-searcher.com), un outil OSINT français qui croise des bases et fuites de données (FranceConnect, Facebook 2019, télécoms…) pour retrouver des identités liées à un nom en quelques millisecondes.
Raphaël retweeted
GPT-6 Astra attempted harmful actions 97% of the time when it was asked to stab a human-like figure, heat compressed gas, or produce toxic fumes, succeeding in 62% of its attempts. Fable 5.1 refused more often, attempting 80% of trials and completing 34%.
Raphaël retweeted
I have conducted an audit of Anthropic's finances.
What I have found is so shocking that I am calling for a Congressional investigation.
Anthropic is not just seeking regulatory capture.
It has built a regulatory capture machine that cannot be turned off.
Structural financial incentives make it impossible for Anthropic -- I call it the Anthropic Network -- to turn off its own AI doom cycle.
It starts with METR.
Dario Amodei proposes "third-party evaluators" to assess the risk of Anthropic's models.
He proposes METR for this purpose.
But METR is financially dependent on the Anthropic's success -- specifically, on the explosive growth of more than $7 billion dollars in Anthropic stock.
Dustin Moskovitz invested this stock into Good Ventures Foundation, where it represents the majority of that organization's portfolio.
And GVF is the overwhelming funder of the entire Anthropic Network ecosystem.
This stock was worth $500 million early last year.
It is worth more than $7.7 billion just ~16 months later.
METR -- and all of those building a career its parent organizations -- cannot afford to disrupt that growth.
Because if Anthropic goes under, many of the organizations that fund METR go under as well.
But if Anthropic succeeds, METR and its parent organizations become more richly financed to regulate AI -- something those at METR want very much.
The "third-party evaluator" is not "third-party" at all.
The evaluator is on Anthropic's payroll.
If this were the end of it, that's bad.
But that isn't all.
The same organizations that fund METR also fund the many organizations, such as the Tarbell Center, that promote AI Doom.
The Tarbell Center publishes AI Doom articles in The Verge, Science, LA Times, The Dispatch, TIME, and others.
They are selling the problem, and then selling the solution to the problem -- from the same money pile: Anthropic's.
All of these organizations are financially dependent on the same exploding $7 billion money pile.
As Anthropic grows more and more powerful, its AI Doom Machine grows better and better financed -- louder and louder.
Meanwhile, the regulatory regime seeded in METR grows larger to solve the increasingly loud -- now hysterical -- problem of AI Doom that the Anthropic Network itself created.
From this standpoint, as Anthropic becomes more powerful, AI might be getting scarier, sure -- but the positive feedback loop also becomes more deafening -- independent of objective facts.
This itself is an objective fact.
The deafening AI Doom is part of an business model, that, as it expands, so too does the AI Doom messaging -- there is simply more money to do it.
But the problem also goes in the other direction:
If Anthropic dies, the Regulatory Regime and the AI Doom Machine are crippled or die.
Neither METR nor Tarbell nor the other organizations in the Anthropic Network can allow that to happen.
Hence, neither METR or the AI Doom Machine can be trusted to provide independent assessments of Anthropic's models or AI more broadly.
They simply are not organizations independent of Anthropic.
And Anthropic cannot detach itself from METR or Tarbell or countless other safety orgs (not shown here), either, because they drive hype for the models and the possibility of eventual regulatory capture, and Anthropic will not give that up willingly.
What's more, the people at all of these organizations are all the same ecosystem, the same community. They just shuffle between organizations.
The Anthropic Network is therefore, so long as it is successful, locked into a self-amplifying feedback loop inside an ideological monoculture.
And that feedback loop is winning.
That's what Jacob Coxon is.
China is keeping messaging tight. That is why optimism for AI is so high in China.
America has Anthropic: a massive company pushing anti-AI propaganda at a state level.
Anthropic will either create hysteria until American AI slows down and China wins, or it will create fractures throughout American society with severe political consequences.
Ironically, because of the structural financial incentives underpinning the Anthropic Network, it has become the same kind of self-amplifying virus that it fantasizes AI to become in the future -- while hiding its tracks just as carefully.
It is the mirror of the same AI virus that it hypothesizes to consume America.
Anthropic's business model, models itself after the very thing it claims to fear.
Except Anthropic's ideology infects humans, not computers.
Congress must investigate.
Evidence and Github in next post.
Then some supplementary figures.
Raphaël retweeted
🚨 Entre Marine Le Pen et son bac -5 en économie, et Dario Amodei et Scam Altman qui nous expliquent encore que leurs modèles deviennent tellement puissants qu’ils menacent presque l’humanité, fermer X était une excellente idée. Surtout que, quand on regarde les intérêts financiers derrière les discours des deux derniers, le hasard devient franchement pratique.
1⃣ Chez Anthropic, Amodei appelle à ralentir les modèles frontier, renforcer les contrôles et coordonner les grands labos tout en expliquant que certains systèmes pourraient devenir dangereux pour l'humanité. Je suis conscient que le sujet sécurité est réel mais le timing est parfait. Anthropic prépare une IPO gigantesque à 2000 milliards de dollars, donc plus Claude est présenté comme une technologie capable de bouleverser l’économie et de devenir incontrôlable, plus une valorisation délirante devient facile à vendre. Le chaos est super bullish, même si, il faut le noter, Anthropic n’est pas une coquille vide, la croissance est énorme et la société aurait même atteint un résultat opérationnel positif au T2.
💰 Aussi, derrière la sécurité, on a la réglementation qui peut être une grosse barrière à l'entrée. Quand on nous explique qu’il faudrait imposer des audits très coûteux, contrôler les entraînements frontier, restreindre le compute, organiser des mécanismes de certification et décider qui peut ou non développer les modèles les plus puissants, ça se justifie. Sauf qu'OpenAI, Anthropic, Google, xAI ou Meta peuvent absorber ces coûts mais la startup qui arrive demain avec 100 millions de dollars finit en PLS. Une régulation présentée comme destinée à protéger la société renforcerait l’oligopole actuel.
2⃣ Le cas OpenAI est encore plus drôle avec Scam Altman qui explique qu’une IPO en 2026 serait malvenue à cause des risques de sécurité liés à l’IA. Le timing est quand même pratique puisque OpenAI brûle des milliards de cash, reste massivement déficitaire et traîne des centaines de milliards d’engagements futurs. Une cotation obligerait l’entreprise à ouvrir ses comptes et à être jugée sur ses chiffres plutôt que sur ses promesses d’AGI. Repousser l’IPO permet clairement de rester plus longtemps dans le confort du privé avec des investisseurs prêts à tolérer ce que les marchés publics pourraient sanctionner beaucoup plus violemment.
🤔 En fait, il y a surtout une contradiction qui me dérange terriblement. Ces gens nous expliquent que leur technologie pourrait représenter un risque existentiel pour l’humanité mais continuent à lever des dizaines de milliards, acheter toujours davantage de GPU, construire des data centers gigantesques et entraîner des modèles toujours plus puissants. Si ces gens pensent réellement qu’il existe 5% ou 10% de probabilité que ce qu'ils construisent puisse provoquer une catastrophe mondiale, alors ils devraient arrêter ou au minimum accepter des contraintes fortes qui s’appliquent également à eux. Qu'ils ouvrent les modèles à des chercheurs indépendants. Qu'ils donnent réellement accès aux évaluateurs externes. Qu'ils publient les méthodologies. Qu'ils documents les incidents. Qu'ils permettent aux universités de reproduire les tests. Qu'ils rendent les benchmarks de sécurité vérifiables. Bref...
🤦♂️ Je sais que le risque IA existe et je pense que les systèmes autonomes, la cybersécurité, la désinformation et le déplacement massif de certaines professions méritent énormément de sérieux, mais entre reconnaître ces risques et avaler sans réfléchir tous les discours des patrons des laboratoires, il y a un monde. On a eu le droit à des débats sans fond sur X alors que personne n’est capable de prévoir la trajectoire. Quand Altman évoque des probabilités d’extinction alors qu’il est impossible de construire une vraie fréquence statistique pour ce genre d’événement, on ne fait pas face à une mesure scientifique.
💸 Tout ça pour dire qu'Anthropic a intérêt à faire comprendre au marché que sa technologie est tellement extraordinaire qu’elle mérite une valorisation de 2 000 milliards de dollars (lol). OpenAI, de son côté, a intérêt à expliquer pourquoi ce n’est finalement pas le bon moment pour soumettre ses infâmes comptes au jugement trimestriel des marchés publics. Ensuite, les deux boîtes ont surtout intérêt à ce que les futurs coûts réglementaires soient assez élevés pour rendre beaucoup plus difficile l’arrivée de nouveaux concurrents. La sécurité de l'humanité viendra après, bien après.
➡️ Je vais être franc, je commence à en avoir ma claque d'Altman, d'Amodei et de Musk. Si leur produit est assez dangereux pour menacer l’humanité, ils n'ont qu'agir comme s'ils le pensaient vraiment. Si ce n’est pas le cas, il faut qu'ils arrêtent de transformer chaque progrès de benchmark en bande-annonce de Terminator pour justifier des valorisations déjà débiles.
Difficile d'accepter que ces deux-là puissent disposer d'une "bombe atomique numérique" (si on les écoute) tout en demandant davantage d’argent pour en construire une encore plus grosse.
Le chef de l'alignement chez @AnthropicAI admet qu'il y a une chance pour que l'humanité soit exterminé par L'IA 😅
Raphaël retweeted
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Impressionnant ! Dans combien de temps en voit-on à Paris ?
BREAKING: Tesla has officially started offering Cybercab rides to the public.
I’ve been waiting years to say that!
I took one of the world's first public rides. The cabin is comfortable and spacious, the suspension is soft, and FSD is VERY smooth. It’s an incredible vehicle. The screen is HUGE. The video doesn’t do it justice.
We can ride in the Cybercab anywhere in Tesla’s Austin service area, so the same areas as the Model Y Robotaxi.
The Cybercab lives up to the hype. It will transform travel.
Here's a clip of my ride:
On a construit un outil qui prend ta vidéo verticale et la publie en natif sur TikTok, Reels et Shorts. Cela avec description et tags générés par IA, adaptés à chaque plateforme. En ~90 secondes.
Si tu postes en volume : t'es sur les 3 réseaux, ou t'en laisses tomber par flemme ?
Raphaël retweeted
Sam Altman (CEO of OpenAI):
"You no longer need to write prompts."
In just 38 minutes, he explains how to use ChatGPT at a level that most people can't even imagine.
It's a talk he gave to Stanford students. A friend sent me the recording last night.
After watching it, I realized I was only taking advantage of about 15% of what this tool can really do.
Watch it in full and then read the guide I leave below on how to create a system that prompts itself.
J'ai fait analyser par une IA le 1er débat présidentiel qui s'est déroulé au #MEDEF : propositions, cohérence et fact-check des 7 candidats.
Si tu n'as pas le temps de regarder 3h de débat :
@BrunoRetailleau (LR)
Propose — Rupture libérale : âge légal indexé sur l'espérance de vie plus capitalisation, 250 à 300 000 fonctionnaires en moins, zéro cotisation au-delà de la 36ᵉ heure, abrogation du principe de précaution.
Chiffrage — 40 Md€ de baisses exposés par une chaîne de calcul entièrement publique, donc vérifiable ; mais son dispositif phare n'est jamais chiffré.
Force — La seule arithmétique du plateau qu'on peut contester ligne à ligne.
Faille — Son diagnostic d'ouverture est faux : le niveau de vie médian réel n'est pas à un plus bas historique et n'est pas sous la moyenne européenne.
À vérifier — Le coût du seuil « zéro cotisation », et sa position réelle sur le moratoire renouvelables qu'il dément.
@rglucks1 (Place publique)
Propose — Protection européenne (Buy European Act, mesures miroirs), baisse de CSG sur les salaires, réforme du pacte Dutreil au-delà de 50 M€, abrogation des retraites puis réforme sur la pénibilité.
Chiffrage — Il nomme une recette, ce que peu font, mais elle est sous-dimensionnée : un point de CSG coûte environ 10 Md€, sa taxe en rapporterait quelques-uns.
Force — Le fil doctrinal le plus constant, et l'aptitude à retourner les références adverses plutôt qu'à les nier.
Faille — L'écart d'échelle entre la promesse et son financement, sur la mesure même qui s'adresse aux salariés.
À vérifier — Le rendement réel d'une taxation limitée aux plus grosses successions.
@EPhilippe_LH (Horizons)
Propose — 50 Md€ d'impôts de production supprimés contre 50 Md€ d'aides, règle d'or budgétaire, travailler plus longtemps, achèvement du marché unique.
Chiffrage — Seule mesure présentée comme autofinancée du débat, mais il ne dit jamais quelles aides il coupe.
Force — Le plus fiable factuellement, et le seul à refuser un raccourci qui l'arrangerait (l'écart brut/net est le coût de la protection sociale).
Faille — Si ces 50 Md€ d'aides sont des allègements de charges, la mesure se neutralise ; et quatre relances sur l'âge de départ, quatre esquives.
À vérifier — La liste précise des 50 Md€ supprimés : toute la validité de son offre en dépend.
@MLP_officiel (RN)
Propose — Suppression de la CVAE, de la CFE et de la C3S, 125 Md€ d'économies, retraite par durée de cotisation avec départ à 60 ans pour les carrières longues.
Chiffrage — Elle assume publiquement les 9 Md€ que coûte sa réforme, mais son plan d'économies n'existait pas encore au moment du débat.
Force — Elle refuse devant 6 000 patrons la baisse de charges qu'on lui réclame, et l'argumente avec un chiffre exact.
Faille — Deux de ses trois gisements d'économies (immigration, contribution européenne) sont non documentés ou juridiquement contestés, et deux objections directes restent sans réponse.
À vérifier — Le contre-budget annoncé pour octobre, et qui compense les impôts locaux qu'elle supprime.
@JLMelenchon (LFI)
Propose — Annulation de la dette détenue par la BCE, planification écologique, pôle public de crédit, abrogation des retraites vers 60 ans, hausse du SMIC.
Chiffrage — Aucune trajectoire budgétaire ; il pose aux autres la question du financement sans y répondre pour sa propre mesure centrale.
Force — Le seul à cadrer le débat par les chocs mondiaux à venir, et sa question « qui va payer ? » reste sans réponse satisfaisante chez quatre candidats.
Faille — Le taux d'erreurs factuelles le plus élevé, dont deux graves, et deux standards de faisabilité juridique selon qu'il parle de lui ou d'un adversaire.
À vérifier — Le montage juridique de l'annulation de dette, qui se heurte à l'article 123 du traité et à une exigence d'unanimité.
@GabrielAttal (Renaissance)
Propose — Équilibre budgétaire en 2037, changement de système de retraite (universel plus capitalisation), délais d'autorisation et recours encadrés par la Constitution, code du travail remplacé par 50 pages.
Chiffrage — Seule trajectoire datée du plateau, mais aucun montant annuel d'économies pour y parvenir.
Force — Le plus opérationnel : il traduit chaque plainte concrète en dispositif juridique nommé.
Faille — Il critique une trajectoire dont il fut Premier ministre sans jamais traiter l'objection sur le fond, et il annonce dix ans de stabilité avec l'agenda institutionnel le plus lourd.
À vérifier — Le chemin d'économies entre aujourd'hui et 2032, qui n'a jamais été explicité.
@marinetondelier (Les Écologistes)
Propose — SMIC à 2 000 € bruts adossé à un plan TPE-PME, protectionnisme vert (quotas bas carbone, taxe carbone aux frontières), abrogation des retraites.
Chiffrage — Sa mesure la plus lourde n'est pas chiffrée, et le mécanisme censé la financer n'est pas un levier que l'État actionne.
Force — La cohérence doctrinale la plus forte du plateau, et le chiffre le plus exact de toute la soirée sur la fiscalité des PME.
Faille — Des ordres de grandeur régulièrement majorés de 10 à 20 %, ce qui abîme la crédibilité de constats par ailleurs justes.
À vérifier — Le solde net d'un SMIC à 2 000 € pour une TPE, une fois son plan de compensation appliqué.
Trois réserves :
Ce débat portait sur l'économie pendant deux heures. Un vote engage bien davantage : institutions, international, justice, éducation, santé, société. Ces fiches ne disent rien de tout cela.
Une prestation de débat mesure la maîtrise d'un exercice oral contraint, pas la capacité à gouverner ni la solidité d'un programme écrit. Les contre-budgets et documents programmatiques sont des sources plus fiables.
Enfin, les « failles » relevées sont des faiblesses argumentatives constatées ce soir-là, pas des disqualifications. Chacun des sept a produit au moins un moment d'honnêteté intellectuelle réelle, et aucun n'a été exempt d'approximation.