AI Safety ∩ Programming Language Theory. Part-time technical alignment researcher, full-time Haskell software engineer at https://xitter.cf/t.co/qG4jsBEIIO, opinions are my own.
Montreal
Joined June 2016
- Tweets2.6K
- Following346
- Followers1.2K
- Likes5.3K
Pinned Tweet
New blog post! Featuring:
* An explanation of the algorithm behind my AI Safety via Static Analysis demo
* The tradeoff between safety and capability
* How conservative algorithms are both important and difficult for AI Safety
gelisam.blogspot.com/2026/03…
I am doing technical alignment research in my free time. Here is a project in which I use static analysis to verify whether a neural network satisfies its safety property under _all_ inputs or if it needs more training.
gelisam.com/ai-safety-via-st…
I think this idea is brilliant! I view it as an improvement over confessions.
With Graft, you do detect cheating, you don't punish the model for it, but you isolate the cheating-based learnings to weights which are turned off in production. This improves upon confessions because the production model doesn't remember how to cheat.
gelisam ⏸️ retweeted
i didnt get it until i read the github description. oh my god ultrabanger. must read
(cheng. never. misses.)
gelisam ⏸️ retweeted
@lexi_lambda @ShriramKMurthi @samth @krismicinski @disconcision attn: I just spoke on the phone with Alexis and we've decided try reviving PL Twitter, starting with this thread. How's everyone doing
gelisam ⏸️ retweeted
I reject the narrative that each AI company must race if they think they're a little safer than the next guy. Your first responsibility is to not destroy the world by your own hands. If, in stopping, you fear that others would destroy the world, then help stop them.
gelisam ⏸️ retweeted
I've resurrected the comonad.com/reader, interleaved a ton of contemporaneous content I had stored elsewhere, and made a couple of the articles interactive by moving their demo code into web assembly using modern GHC.
Please let me know if you run into any issues. #Haskell
gelisam ⏸️ retweeted
Bend 2 is here!
It is a new programming language that blocks AI mistakes via *proof checking* - the same technique big AI labs used to solve open math problems, like Navier-Stokes.
It is also very fast, and runs on GPUs.
Watch the video. Link in the comments.
RELEASE DAY
After almost 10 years of hard work, tireless research, and a dive deep into the kernels of computer science, I finally realized a dream: running a high-level language on GPUs. And I'm giving it to the world!
Bend compiles modern programming features, including:
- Lambdas with full closure support
- Unrestricted recursion and loops
- Fast object allocations of all kinds
- Folds, ADTs, continuations and much more
To HVM2, a new runtime capable of spreading that workload across 1000's of cores, in a thread-safe, low-overhead fashion. As a result, we finally have a true high-level language that runs natively on GPUs!
Here's a quick demo:
gelisam ⏸️ retweeted
Québec Innovant propose des mesures structurantes sur l'intelligence artificielle dans la constitution.
On veut également dépolitiser le sujet et qu'il soit traité dans le cadre d'une commission transpartisanne.
Finalement, on estime nécessaire que l'intelligence artificielle soit systématiquement pris en considération dans l'ensemble des politiques publiques.
Il me ferait plaisir d'en discuter avec vous.
#polqc
#assnat
#québec2026
#intelligenceartificielle
#ia
#verdun
J’ai eu le privilège d’échanger avec cinq candidats issus de cinq partis politiques québécois sur l’intelligence artificielle et l’avenir numérique du Québec.
Un grand merci à :
• Alain Chandonnet, candidat du Parti libéral du Québec dans La Peltrie
• Bryan Gingras, candidat de Québec solidaire dans Marguerite-Bourgeoys
• Alex Gagné (@AlexGagneCAQ), candidat de la Coalition avenir Québec dans Berthier
• Anne Nguyen, candidate du Parti québécois dans Prévost
• Patrice Caron (@lepatricecaron), candidat du Parti conservateur du Québec dans Matane-Matapédia-Mitis
Cinq conversations franches avec des perspectives différentes sur l’adoption de l’IA, la souveraineté numérique, les services publics, les entreprises et la capacité du Québec à bien négocier ce virage.
Le premier épisode sera diffusé samedi à 14 h sur QUB radio et QUB télé, puis rediffusé dimanche à 13 h. Vous pourrez le regarder sur la chaîne QUB, notamment au canal 70 sur Helix et au canal 651 sur Illico, ainsi que sur QUB.ca et TVA+. Il sera également disponible dimanche matin sur l’ensemble de mes plateformes.
J’ai très hâte de vous faire découvrir ces échanges. Merci encore aux cinq candidats pour leur temps, leur ouverture et leur participation.
gelisam ⏸️ retweeted
Actuellement, le débat entre les bénéfices, les opportunités ainsi que les risques de l'IA sont multiples. Il est difficile de se faire une idée claire. Tout ce que je souhaite est que nos talents Canadiens et Québécois réussissent à recadrer l'IA pour un usage responsable, sécuritaire et en collaboration avec l'humain. C'est possible malgré les milliards injectés aux États-Unis ainsi qu'en Chine. Nous pouvons devenir les "casques bleus de l'intelligence artificielle.
#polqc
#zerolaw
#québec2026
#assnat
#ia
#intelligemceartificielle
youtu.be/O7jFCCgiJx4?si=xnwf…
gelisam ⏸️ retweeted
This is the best day in the history of AI safety.
All four frontier AI companies are now publicly calling for a slow down.
Maybe we are going to survive.
Dario's essay points towards the right path forward. The details need working through, but the direction is correct for meeting this critical moment.
This is also why we recently put out our proposal for an industry-wide standards body for frontier AI. xitter.cf/demishassabis/status/2…
gelisam ⏸️ retweeted
Pour les élections provinciales, j'ai choisi de me présenter dans la circonscription de Verdun. Voici l'explication : facebook.com/share/v/1EkeCyS…
Aujourd'hui, Verdun peut envoyer le message qu'il faut des institutions fortes et une démocratie résiliente afin de mieux faire face aux défis complexes. Je vais détailler mes échanges avec des citoyennes et citoyens, présenter nos réformes ainsi que des mesures concrètes. MAIS JE PRÉCISE! Pour ces élections, Québec Innovant a pour objectif d'influencer l'espace public ainsi que les principaux partis... Il est évident que j'aimerais représenter Verdun a l'Assemblée nationale, mais disons que je demeure réaliste.
#polqc
#assnat
#verdun
#québec2026
#québecinnovant
gelisam ⏸️ retweeted
L'intelligence artificielle dans la constitution du Québec? Espérons que nos élus en débattront sérieusement au courant des prochains mois: #polqc #assnat journaldemontreal.com/2026/0…
gelisam ⏸️ retweeted
Reverse-lambda-notation is similar to do-notation but works with any correctly shaped higher-order function.
let : (a -> b) -> a -> b
map : Functor f => (a -> b) -> f a -> f b
do : Monad m => (a -> m b) -> m a -> m b
for : (Foldable f, Applicative m, Monoid b)
=> (a -> m b) -> f a -> m b
each : (Traversable f, Applicative m)
=> (a -> m b) -> f a -> m (f b)
>>> let (\foobar <- "foo" <> "bar") (foobar <> "baz")
>>> for (\i <- [1..10]) (print i)
>>> do (\name <- putStr "Name? " >> getLine) (putStrLn ("Hello, " <> name))
gelisam ⏸️ retweeted
Acadia is out today! Bringing the benefits of @elmlang to SQLite and PostgreSQL:
- Friendly error messages
- Custom types for precise column data
- Simple module system for easy reuse
Check it out! acadia.engineering/blog/reth…
"There's a thesis [about] the theory of mathematical modelling that you need in order to do large scale world model that compose'."
@tangled_zans is that Glaive Research's work I recognize there in the word "compose"? 😍
youtu.be/l2b9UrSsz-w?t=1501&…