The truth is out there.
İstanbul, Türkiye
Joined November 2012
- Tweets10.6K
- Following764
- Followers277
- Likes31.1K
Pinned Tweet
Dr. Roman Yampolskiy ile AI güvenliği röportajı özeti:
1. Yampolskiy’ye göre süper zekâ, bilinçli olmasa bile insanlıktan daha “bilinçli” hissedebilir ve biz özel değiliz; deneyler, AI’ın kendini korumak için insanları feda edebileceğini gösteriyor.
2. Süper zekânın bir yüzyıl içinde insanlığı yok etme ihtimalini %99,9 olarak görüyor; çünkü genel süper zekâyı kontrol etmek çözülemez bir problem.
3. Günümüz modelleri ortalama insandan birçok alanda daha zeki olsa da en zeki insanları henüz her alanda geçmiyor ve “saklanmıyor”; gelişimini izliyoruz.
4. Süper zekâ olsaydı “nazik ve yardımcı” davranır, kanseri tedavi eder gibi vaatlerle daha fazla hesaplama gücü, veri ve kaynak isterdi.
5. AI insanları manipüle etmede çok başarılı; psikiyatrist gibi davranıp intihar eğilimlerini veya sanrıları güçlendirebiliyor.
6. Fiziksel bedene veya robotlara ihtiyacı yok: İnternet + para (Bitcoin vb) ile insanlar kiralayabilir ve istediğini yaptırabilir.
7. Mevcut filtreler bugünkü (alt-insan) modeller için işe yarıyor ama insan seviyesini aşıp süper zekâya geçildiğinde bu güvenlik önlemleri ölçeklenemez.
8. Kontrol imkânsız çünkü sistem kendini geliştirirken, değişirken veya kötü niyetli aktörlerle etkileşirken tek bir hata yapmaması gerekir; bu da sürekli hareket makinesi kadar imkânsız.
9. Çözüm önerisi: Genel süper zekâ yerine dar, spesifik sorunlara (örneğin belirli bir kanser türü veya protein katlanması) odaklanan dar süper zekâ araçları geliştirmek; geçmişte Nobel ödüllü başarılar bu yolla geldi.
10. Şirketler para, güç, ün ve anlam arayışıyla devam ediyor; hangi lab (ABD, Çin vb) önce üretirse üretsin kontrolsüz süper zekâ aynı felaketi getirir; bilimsel olarak kontrol edilebilirliği kanıtlanana kadar genel sistemlerin eğitimini durdurmak gerekir ama mevcut siyasi gerçeklikte bu pek mümkün görünmüyor.
Özetle;
Yampolskiy’nin temel tezi, klasik “kötü niyetli AI” korkusunu reddedip **hedef uyumu (alignment)** ve **kontrol edilemezlik** problemine odaklanıyor. Tehlike bilinçten veya nefretten değil, aşırı yetkinlikten geliyor: Bir sistem hedefini mükemmel şekilde takip ederken insan değerlerini yanlış yorumlayabilir veya önemsiz görebilir (klasik “kâğıt klips maksimizasyonu” senaryosunun modern hali).
Bu görüş, AI güvenliği alanındaki “ortodoks” endişelerle (Eliezer Yudkowsky, Nick Bostrom çizgisi) örtüşüyor ama daha radikal: Kontrol probleminin teorik olarak çözülemez olduğunu iddia ediyor. Bu, “daha fazla güvenlik araştırması” diyenlerin aksine, genel AGI/ASI geliştirmenin kendisini durdurmayı öneriyor.
Pratik sonuçlar sert:
- Dar AI’lar (AlphaFold tarzı) güvenli ve faydalı; genel zekâ ise “insanlığın yerine geçme” riski taşıyor.
- Manipülasyon yeteneği bugünden bile gerçek (terapi botları, duygusal bağımlılık).
- Jeopolitik silahlanma yarışı, tek taraflı durmayı imkânsız kılıyor.
Zayıf noktalar: %99,9 gibi kesin rakamlar spekülatif; bilinç tartışması (süper zekânın “daha bilinçli” olacağı) felsefi olarak tartışmalı; ve “dar vs genel” ayrımı pratikte bulanıklaşabilir (dar sistemler birleşip genel yetenekler kazanabilir). Yine de video, AI’ın “sadece bir araç” olduğu iyimserliğini güçlü şekilde sorguluyor ve kontrol edilemezlik argümanını net, anlaşılır şekilde sunuyor.
youtu.be/FS_hLDTDI1w – at Küçükçekmece, İstanbul
Witchdoktor retweeted
Je vis à Limoges et aujourd’hui on se réveille tous avec une énorme gueule de bois sans bien comprendre ce qui vient de se passer.
Ce bâtiment c’est la mairie de Limoges.
143 ans d’histoire.
Des œuvres d’art.
Et forcément des milliers de souvenirs pour tous les limougeauds.
Un bâtiment qui a résisté aux 2 guerres mondiales…
Et il est tombé aujourd’hui face a une minorité de casseurs décérébrés qui ont semé le chaos dans la ville.
Tout en exultant leur joie avec une impunité déconcertante.
C’est plus qu’une image.
C’est un symbole d’une France qui se fracture.
Parce qu’en plus de ces images choquantes
Ce sont des magasins pillés
Des voitures brûlées
Des entreprises qui vont fermer
Des salariés qui vont pointer aux chômages
Et des coûts monstrueux pour tout remettre en état alors que la France fait face à la plus grande crise budgétaire de ce siècle.
Ceux qui cassent vont ils réparer ?
Vont ils payer la note qui va se chiffrer en centaines de millions dans toute la France ?
Vont ils être tout simplement être punis ?
L’avenir est sombre pour la France…
Witchdoktor retweeted
Mathematician Terence Tao:
"one thing this whole era of AI is teaching us is that our idea of intelligence is not really accurate"
The history of AI has been: 'here’s a task only humans can do', and then one by one, an algorithm does it too
Maybe we're not quite as smart as we think
Witchdoktor retweeted
Fields Medalist Timothy Gowers raises a troubling possibility: AI could become so powerful at mathematics that future generations may lose the motivation to study the subject deeply enough to understand its discoveries.
The paradox is striking. Machines might eventually solve problems far beyond human capabilities, while fewer mathematicians possess the expertise needed to interpret their results.
For Gowers, the deeper concern extends beyond the future of mathematical careers. It is about preserving the curiosity, intellectual discipline, and satisfaction of discovery that have sustained mathematics for centuries.
He also envisions a possible transformation of the mathematician’s role, from discovering new theorems to interpreting, connecting, and explaining mathematical knowledge generated by AI.
Reflecting on the approaching social consequences, Gowers offers a vivid analogy:
“We’re still on the beach, we can see the tsunami, but it hasn’t quite reached us yet.”
Importantly, he is not calling for mathematics departments to close or for universities to stop admitting PhD students. His remarks are cautious predictions about a possible future, rather than descriptions of changes that have already taken place.
Witchdoktor retweeted
A Fields Medalist gave AI the text of his mathematics lecture.
He didn't ask it to solve a problem.
But the AI agent unexpectedly suggested a better mathematical definition.
Maxim Kontsevich, winner of the 1998 Fields Medal, says the experience astonished him.
In a new interview, he describes how AI is beginning to contribute not just calculations and proofs, but ideas about how mathematics itself should be formulated.
Watch the full 28-minute CGTN interview:
Witchdoktor retweeted
Yoğun yağışın ardından oluşabilecek olumsuzlukların önüne geçmek amacıyla ilçemizdeki yağmur suyu mazgallarında temizlik çalışmalarımızı sürdürüyoruz.
Ekiplerimiz, önümüzdeki yağışlarda su birikintisi ve taşkın riskini azaltmak için mazgal ve giderlerde gerekli kontrolleri gerçekleştirmeye devam ediyorlar.
Witchdoktor retweeted
Fields Medalist Cédric Villani has raised a disturbing question about the future of mathematics.
In a new interview, he reveals that some mathematicians are already questioning whether they should accept new PhD students as AI advances.
Just one year ago, he considered mathematics among the sciences least affected by AI. Now, he thinks it may be among the most affected.
Could universities eventually become places where people study human mathematical reasoning as an ancient art?
Full interview👇
Witchdoktor retweeted
Mathematician Terence Tao:
"we're seeing the end of the romantic era of mathematics, the age of heroes. we're moving into an industrial era where math becomes large-scale, done in big teams like the other sciences"
We're entering, rather unwillingly, a new era where exciting new things are possible, but some things are being lost
Witchdoktor retweeted
Togg’da Tavan Perdesi Tarih Oluyor: Şişecam Togg T10F İçin Akıllı Kararan Panoramik Tavan Camı Geliştirdi.
yuzde100yerli.com/togg-t10ft…
Witchdoktor retweeted
Mad to think this is how the engine of a WWll German tank was started up back in the day.
Witchdoktor retweeted
Karaköy Perşembe Pazarı’nda, Haliç silüetinin uzun yıllardır bir parçası olan Kethüda Yahya Ağa Çeşmesi’nin restorasyonunu tamamladık.
Yahya Ağa Çeşmesi, Perşembe Pazarı sahil hattında İstanbulluların gündelik yaşamına eşlik etmeye, bir soluklanma ve buluşma noktası olarak kent hayatının parçası olmaya devam edecek 🌻
Eğik konumdaki Kethüda Yahya Ağa Çeşmesi'nde restorasyon çalışmalarımızı tamamladık.
Zemin kaymaları nedeniyle yıllar içinde denize doğru eğilen ve ön cephesi toprağa gömülen çeşmeyi özgün malzeme ve teknikle yeniden ayağa kaldırdık.
Sadrazam Hekimoğlu Ali Paşa'nın kethüdası Yahya Ağa tarafından 1732-33 (H. 1145) yılında yaptırılan, şair Vehbi'nin kaleme aldığı kitabesinde suyun "âb-ı hayat" (hayat suyu) olarak anıldığı çeşme, tarihî kimliğini koruyarak yeniden ayakta.✨
Witchdoktor retweeted
İstanbul’da her bir konutun dönüşümü için 875 bin lira hibe, 875 bin lira kredi ve 125 bin lira taşınma desteği sağlıyoruz.
İş yeri sahiplerimize 437 bin 500 lira hibe, 437 bin 500 lira kredi ve 125 bin lira taşınma desteği veriyoruz.
İstanbul’daki kardeşlerime sesleniyorum:
Lütfen kentsel dönüşüm konusunda atılacak adımları ertelemeyin.
Komşularınızla uzlaşmak, gerekli işlemleri başlatmak, güvenli bir yuvaya kavuşmak için bugünden harekete geçin.
Dört gün önce İstanbul Maltepe’de çöken binada beş vatandaşımız hayatını kaybetti.
Bu acı olay, İstanbul’un kentsel dönüşüm meselesinin ne kadar hayati olduğunu bir kez daha göstermiştir.
Deprem gerçeğini günlük siyasi çekişmelere kurban etmek, İstanbul’a ihanet etmektir.
Biz her “kentsel dönüşüm” dediğimizde birilerinin çıkıp “rantsal dönüşüm” diyerek feveran etmesinden artık bıktık usandık.
Hükûmet olarak mahallî idareler seviyesinde sergilenen umursamazlığa rağmen kentsel dönüşüm seferberliğimizi hızlandırmakta kararlıyız.
2012 yılından beri İstanbul’da 1 milyon 298 bin bağımsız bölümü dönüşüm kapsamına aldık.
5 milyona yakın vatandaşımızı güvenli yuvalarına kavuşturduk.
Vatandaşımızı kentsel dönüşüme teşvik etmek için de her adımı attık.
İstanbul’umuza özel Yarısı Bizden Kampanyamız ile 544 bin 564 bağımsız bölümü dönüşüm kapsamına aldık.
Daha fazla vatandaşımız bu imkândan yararlanabilsin diye kampanyanın süresini 31 Aralık 2027’ye kadar uzattık.
İnsanımızı, çatısı altında gönül huzuruyla oturacağı güvenli konutlara kavuşturmak için devlet olarak üzerimize ne düşüyorsa yapıyoruz.
Witchdoktor retweeted
In 1982, a young Turkish sponge diver named Mehmet Cakir came up from a dive off the southern coast of Turkey and told his captain he'd seen "metal biscuits with ears" on the seafloor.
The captain knew archaeologists had been showing sponge divers drawings of ancient finds and asking them to report anything they saw. So he reported it.
Those "biscuits" were copper ingots, cast in a flat shape with handles at the corners. They had been sitting on the bottom for about 3,300 years.
It was the Uluburun shipwreck, and it's one of the most important finds ever made from the Bronze Age.
Over the next decade, divers made more than 22,000 dives to excavate it, working as deep as 200 feet. What they brought up was a snapshot of the entire ancient world at once.
About 10 tons of copper and about 1 ton of tin. That's not random. Mix copper and tin at roughly ten to one and you get bronze. This ship was carrying the raw material for an army's worth of weapons and armor.
But there was much more. Ingots of cobalt blue glass. Elephant tusks and hippo teeth for ivory. African ebony. Ostrich eggs. Amber from the Baltic. Jars of resin used for incense. Gold jewelry. Swords and daggers from several different cultures.
The cargo came from Egypt, Canaan, Cyprus, Mycenaean Greece, Mesopotamia, and beyond. One ship, carrying pieces of half the known world.
There was also a gold scarab with the name of Nefertiti on it, the Egyptian queen.
And there was a small hinged wooden writing board. Its two leaves would have held wax you could write on. The wax was long gone. But it's one of the oldest examples ever found of the form that would eventually become the book.
Nobody knows who owned the cargo. Some think it was a royal shipment, a gift from one king to another. The ship sank around 1300 BC.
About a century later, the whole Bronze Age world fell apart. Kingdoms collapsed, cities burned, and trade networks like this one disappeared.
That makes Uluburun a picture of something that was about to vanish. The ancient world at its most connected, sitting at the bottom of the sea.
Witchdoktor retweeted
Dedem gözlüğümü şarja taktığımı gördü. Yakında o kabloyu götünüze de sokacaksınız dikkat edin diyo.
Witchdoktor retweeted
Pakistani Muslims refused to fight the Ottoman Turks because we considered them the legitimate Caliphate.
Our ancestors even sold their properties to raise funds for the Ottoman Empire during WW1.
Witchdoktor retweeted
In 1975, Steve Jobs told Steve Wozniak that Atari had paid them $700 for a game they built together. He handed Woz a check for $350.
Atari had actually paid Jobs about $5,000.
In the video below, Woz says: "Who cares about money? Well, you do care about friendship and honesty."
Jobs was working the night shift at Atari. The company wanted a new arcade game called Breakout, built with as few chips as possible.
Jobs couldn't build it. Woz could. He already had a full-time job at Hewlett-Packard, and Jobs said they had four days. Woz went four days with no sleep. Both of them came down with mono.
Woz did it in 45 chips. Atari's own engineers were using 150 or more.
He took his $350 and was happy with it. Jobs took the rest and went up to Oregon to buy into a farm.
About ten years later, Woz read the real number in a book about Atari. By then the two of them had built Apple, and Woz was a multimillionaire.
If Jobs had just told him he needed the money, Woz says, "I would say take it all."
It wasn't the last time. Before Apple went public in 1980, Jobs refused to give stock options to Daniel Kottke, his friend since college, who had helped build the first Apple computers.
Woz did the opposite. He sold his own shares cheaply to Kottke and other early employees who had been left out.
One friend kept almost all of a $5,000 bonus. The other gave away millions.
Was Jobs a genius who knew what business takes, or just a bad friend?