医療AI/SIの導入評価・監査・規程整理を第三者の立場で|Masayuki Otawara, MD, PhD|AIエージェント・ストラテジスト|救急集中治療医・産業医|医療安全推進学会理事|NewsPicks Expert|Cursorvers株式会社Founder|ご相談はフォームへ▽

MD / Med AI Audit & Consulting
Joined December 2021
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
この話を出先で見かけて、帰宅して直ぐに自分の証券、銀行の確認をしました。いやぁ、複数人が、無過失な状態でほとんど預けていた全額を溶かされるなんて、現実とは思いたくありません。毎月10万貯金しても4年近くかかる……それが400万円ですからね(ノД`)・゜・。 一方で、PCを貸し出していただけのGMOが全部建て替えるのが筋かと言うと、微妙……。過失次第かな、と思います。 いよいよ、『お金』すら安心できなくなってきたなという印象と、『脆弱部』から奪われていくんだなという新しい認識を得ました。 ログイン突破なんてしなくても、合鍵を使って裏口から入ればいいんだね、と。。。
お名前.com… これは大騒ぎになるぞ…
2
6
688
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
最近、連続で来ていますね Codexには動物絵本の自動作成を構築中なので、今の時期はありがたいです
codexリセット予告は、諸説ありますが、 「日本時間10月23日(金)午前2時」 が着弾予想時刻のようです! (厳密に見ると、10/24 AM2:00にも読めますが、過去のトレンドから予測すると10/23の可能性が高いようです!)
1
1
176
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
キタ こーゆーのは逆に諸外国だとどーゆーふーな切り返しになるのか。日本だと、紙で...??とかなりそうだけど、アメリカとか紙に戻ろうとかなさそう(イメージですが)
AIやDxの実装コストや工数が上がり、情報漏洩のリスクまで鑑みると、「紙カルテが最適解です…」という医療ドメインの世界線…
1
1
1
238
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
これは楽しみすぎますね!
『Claude版Grok bot "Claude Duet"』 AnthropicがGrok bot、Muse、Dotsの競合となる「Claude Duet」を発表 実行基盤としてClaudeを背景に持ち、他のすべての類似サービスを凌駕するつもり 現在、米国限定で研究用のプレビューアクセスを開放しており、11月のFable 5.5でパブリックリリースが得られると言われている Anthropicはかなり野心的 Grok botのToken消費が激しい中で、これまで使ってきたClaude harnessが使えそうなのは大きい
1
1
2
118
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
え コエレクボイスなら 今医療用語日本語で誤り率9.2%ですが!
『21言語中18言語で誤り最少の音声AIなら、診察室でも使えるか?』 Microsoft AI(@MicrosoftAI)のMAI-Transcribe-2が、David AIの会話ベンチマークで1位 元になったのは、自由なお題で話す2人の約15分の会話を、話者ごとに別マイクで録った音声(21言語・計147時間)の解析結果 しかし、引っかかったのは別の数字でした 2人の声を1本に混ぜると、どのモデルも誤りが増える ・MAI-Transcribe-2:誤り率 9.68%→10.54%(21言語) ・Grok Voice Transcribe 2.0:9.65%→25.54%(16言語) いずれもDavid AIの公開評価セットで、誤りが一番多いのは話者が重なってしゃべるところ 診察室の録音も医者一人がしゃべる訳じゃない 1台のマイクで拾えば、医師と患者の声は1本に混ざるし、話もかぶる つまり、順位表は診察室の会話は反映されてない 音声AIで診療記録を取るなら、導入前に自院の録音で ・「話がかぶった箇所」の誤り ・薬剤名と数値の聞き違い この2点を必ず確かめる必要がある 更に言うなら、医療用語は間違えが許されない だから、専用に開発されたAIを検討すべきだと改めて思った
1
2
1
13
1,135
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
全部動画で見たい
OpenAI DevDay Exchange Tokyoに最後まで居たら、デカいお土産があった?! 「蛍の光」が聞こえた気がしたから、先に出ちゃったヨ… #OpenAI #DevDay #OpenAIDevDayExchange
1
1
4
514
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
Mercury 3がベンチマーク超え?実測値はこれだ Haiku 5.5より速いのはMercuryだが品質差は微妙 とりあえずJSON分類だけ、仕事で再検証が必要だわ xitter.cf/cursorvers/status/2112…
『Mercury 3の「Haiku超え」、我々の80問でも出るのか?』 Inception(@_inception_ai)は、Mercury 3がベンチマークで「GPT-6 LunaとClaude Haiku 5.5を上回る」と主張する。 無料枠で試したいと書いた件、実際に測った。 同じ80問を、Haiku 5.5とGLM-5.3-Flashも並べて1回ずつ投げた。 コード要約・テスト下書き・日本語整形・JSON分類が20問ずつ。 速さははっきり出た。 ・応答時間の中央値(全80問、失敗した試行も含む):Mercury 1.3秒/Haiku 2.7秒/GLM 17秒 ・3モデルとも成功した共通44問だけでも:0.64秒/0.85秒/8.6秒 品質は言い切れない。 claude-sonnet-5-5による5点満点の採点で、共通42問は4.81/4.86/4.86。 この差では「同等」とも「上」とも言えない。 次に測る価値がいちばんあるのはJSON分類。 Mercuryは20問中19問成功で、採点は3モデルとも満点、応答はMercuryがいちばん速かった。 費用はローンチ単価で1件あたり約0.02セント(失敗した試行も含む79件の平均)。 他の2モデルは単価を入れておらず、安さの比較はしていない。 ただし、1問1回・採点モデル1つでの観測で、出力上限1024トークンで切れた回答は失敗扱い(失敗は3モデルとも3割台)。 テスト下書きは、この上限では3モデルとも判断がつかなかった。 なので全面的な組み込みは保留し、次は短いJSON分類だけを同じ問題で繰り返し測る。 公式のベンチマークで採用を決めず、自分の仕事の問題で一度は測る必要がある。 xitter.cf/cursorvers/status/2112…
1
1
123
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
これは何の分野でも大変重要な視点で 技術論「だけ」で物事を決めてしまうと現実との乖離が生じて、別の問題を生じるという
Replying to @Natsu_umidigi
そう考えると、技術論だけで医療AIやDxルールを決められると、ドメインが立ち行かなくなりますね。
1
1
347
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
エンジニアを確保しつつも 100均で番号札を買って アナログオペレーションに切り替える
使っていたサービスが情報漏洩問題で急遽止まってしまった。 しかし外来を止めるわけにはいかない。 あなたはこのクリニックの院長として、経営判断を迫られていますが、どの選択をしますか? 1. BCPとしてvibe codingで待合室の呼び出しシステムを作って、とりあえず外来を回す。 2. 呼び出しシステムは使わず、個人情報保護の配慮は無視して名前を大声で呼ぶ 3. 採算は度外視して、復旧まで外来を閉じる 4. 茫然自失で何もしない 5. 通りすがりのガバナンスに長けたエンジニアが助けてくれるのを待つ どうしますか? どれが正解でしょう? あなたの選択を是非リプ欄にお願いします
1
1
1
273
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
「iPhoneのアクションボタンをGrok botに」 これはとても便利!
Liam just started a movement 🚨 I gave Grok Bot its own button and it has COMPLETELY changed the way I work 🔥 One press on the Action Button. Grok opens in voice mode. I say the task and the deadline. The Bots handle the rest. No tapping. No typing. No apps. I feel like I have a real life personal assistant 🤯 If you have an iPhone, do NOT skip this one.
1
2
5
605
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
めちゃくちゃ気になる
【拡散型AI「Mercury 3」とは? 】 ClaudeやChatGPTは、文章を「左から右へ、1文字ずつ順番に書いていく」、いわゆる「自己回帰型」の方式なので、前の文字が決まらないと次の文字を出せないので、どうしても時間がかかる。 一方、Inception Labsが発表した「Mercury 3」は、まったく違う「拡散型」と呼ばれる仕組みを提唱している。 イメージとしては、最初にぼんやりした下書きを全体でパッと作り、そこから徐々に「ノイズを取り除いて」仕上げていく感じで、複数の部分を同時に修正できるので、GPUの並列処理を最大限に活かせる。 1. その結果「速度が桁違い」 公式によると1秒あたり1,000トークン以上(約1,068トークン/秒)で生成でき、速度重視のモデルであるClaude Haiku 5.5やGPT-6 Lunaと比べて4〜8倍速いとされているのに、品質はそれらと同等か、それ以上を主張している。 2. 注目ポイント「大きくしても遅くならない」 「Mercury 3は初代より40倍以上大きくなり、知能も約3倍向上したのに、速度はほぼ変わらない」 これが拡散型の大きな利点で、従来の自己回帰型では難しかったスケーリングを実現した、と開発者のStefano Ermon氏は強調している。 コンテキスト窓は100万トークンまで対応し、推論の強さ(reasoning effort)も調整可能。価格もローンチ時は入力10セント・出力35セント/100万トークンと非常に安く設定されている。 【実務での違い】 ・Claude(特にClaude Code)やCodexは、長時間かけてじっくり考えるコーディングや複雑な推論が得意。 ・Mercury 3は、音声対応やリアルタイムの教育、ブラウザ操作、大量のサブエージェントなど、「待ち時間が積み重なる」場面で強みを発揮する。 すでにコードレビューや対話型教育などで使われ始めている。 【まとめ】 Mercury 3は「速さ」と「コスト」で勝負する新しい選択肢。 最高難度の長時間タスクではまだClaudeやCodexが優位かもしれないが、日常的に速さと安さを求める用途では、かなり魅力的な存在になりそう。 APIもOpenAI互換なので、既存の仕組みに比較的入れやすいのもポイント。 ドンドン新しい革新的なサービスが出てくるな…🤔
1
1
3
237
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
この記事、元ネタまで遡って見てみました。 「1. 毎日AIを使いなさい。指数関数的増加の上に乗っていれば、決してそれに遅れをとりません。」 私的にはこれが刺さりまして・・・。 最近、AI関連を触っていて感じることがあります。 新しい技術って、使い始める前は何ができるのかすら分からないんですよね。だってそもそも、自分の頭の中にその可能性がないから。 でも、分からないなりに毎日触っているうちに「これもAIに任せられるんじゃない?」という発想が少しずつ増えてくる。 知識が増えるだけじゃなくて、思いつく選択肢そのものが増えていく。 たぶん、この差って知識分よりはるかに大きいんだと思います。 それは自分の中に落とし込めてる証拠だから・・ だから私は取り敢えず触ってみます。で合わなければやめればいい。でも食わず嫌いはしない(椎茸以外・・) そうこうしているうちに、今まで当たり前だと思っていた日常の不便にも気づくようになるんですよね。 「あれ? これAIにやらせたら楽できるんじゃない?」 この発想が自然に出てくるようになるだけでも、毎日触る価値はあると思っています☺
『コードを1行も書かない人が、初稿だけは「AIに書かせるな」だった』 拡散モデルの生みの親で、いまAnthropicにいるJascha Sohl-Dicksteinの講演 相手は大学院生で、テーマはAGI前夜の研究とキャリアの選び方 本人はもうコードを書かないし、ほとんど読みもしない それでも学生には、文章の初稿をAIに書かせるなと言い切る AIに頼むのは「自分の間違いを全部挙げてもらう」方 理由はたった1行 「書くことは考えること、書くのを外に任せたら考えるのも外に任せたことになる」 AIの下書きに赤を入れて、考えた気になってないか、気をつけよう
1
2
40
2,618
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
これほんまにやばいです。 「人間が最後に確認するから安全」という前提が、論文で根っこから疑われてます。 Claude Codeの許可ボタンを無心で押してる人、全員当事者です。 何が衝撃的なのか、ガチ解説します。 ■何がおきたか Margaret Mitchellさんらの論文「AI Agents Push Humans Out of the Loop」。AIエージェントを監督し続けるほど、監督する人の力が落ちる、と主張しています。 ■対策もちゃんと書いてある ・承認なしで動いてよい範囲を先に決める ・作業の区切りごとに差分をまとめて見る ・承認が速くなっていないか、AIへの反対が減っていないかを劣化の兆しとして見る ・正解が分かっている課題を混ぜて、判断力の落ち方を測る 私もClaude Codeは自動モード+区切りごとの承認で回してますが、自分の承認の速さは測ってなかったです。
『人間が最後に確かめる、がいちばん先に崩れる』 Claude Codeの許可ボタン、気づくと中身を読まずに押している それがそのまま論文になっていた Margaret Mitchellさんたちの提言論文で、「人間が確認するから安全」という前提そのものを疑っている AIエージェントが出す計画や手順は、人が追える量と複雑さをとっくに超えている だから読まずに承認して、もっともらしい理由をそのまま受け入れる しかも使い続けるほど、異常に気づく力まで落ちていく 論文の言葉だと『監督が、監督する人を劣化させる』 医療だと、論文も引いているポーランドの大腸内視鏡の研究がわかりやすい AIを入れたあと、AIなしで検査したときの腺腫発見率が28.4%から22.4%に下がった 観察研究なので因果までは言えないけど、経験2,000件超の医師19人でもこうなる 日本では2018年の厚労省の通知で、AIを使っても最終的な判断の責任は医師にある でも、その医師が見落とさずにいられる条件までは、通知には書かれていない 落ちていくのは、手順書に書けないほうの腕だと思う 内視鏡をしながらの臨床医の診断は、経験から来る直感に頼るところが多いけど、それがよく当たる こういうドメイン特化の技能は言葉にしにくい、でも、馬鹿にはできない arxiv.org/abs/2608.23642
2
2
4
418
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
じゃあ試しに協力してみる
んー、これはリプ欄からのImpかどうかの話はあるが、今日おおよそブルーバッジから1万Imp以上取れないと、収益化は先送りになるということか…?🤔 なかなかキツい…
1
1
4
602
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
!
1
1
3
144
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
連絡手段はLINEがデファクトスタンダードなので、患者さんに別の手段を使ってもらうのが難しいのが辛いところですね。 各機関でアプリや連絡手段を持って囲い込めば、情報を自前で管理することもできると思いますが、サービスとして良い方向に進む気がしないので、お国の力を借りたいところです。
『患者情報をLINE WORKSで共有しても、個人情報保護法や「3省2ガイドライン」違反にならないのか?』 2019年公開の千葉大学病院の導入事例では、救急・院内急変対応でLINE WORKSを利用し、患者の状態やICUの受け入れ準備を共有したと説明されている。 ただし、氏名・患者IDの送信有無や管理体制は不明。CT・X線画像の共有は「検討中」で、実施済みではないとされている。 私は法務の有資格者ではないので、一般的な検索をしたところ、患者情報をビジネスチャットで共有すること自体は一律違法ではないよう。 厚労省「医療情報システムの安全管理に関するガイドライン第7.0版」Q&A(概説編Q10)は、SNS等の利用を認める一方、医療情報システムとしての安全性評価を要求。認証、アクセス制御、暗号化、監査ログ、保存・削除、事故対応、事業者との責任分界の確認が必要とされている。 個人情報保護法上は、クラウド事業者が患者データを取り扱うかが重要。 取り扱わない契約・アクセス制御なら第三者提供に当たらない場合があり、適切な委託であれば原則として委託の都度の患者同意は不要だが、安全管理義務は残り、委託なら監督義務も生じる。 LINE WORKSの規約には安全運用や障害対応等でデータにアクセスできる例外もあるため、「国内サーバーだから安全」とは判断できない。 今回の事例は違法と断定できないが、公開記事だけで適合性も確認できない。 「導入実績」ではなく、契約、設定、アクセス権限、リスク評価、運用記録という証拠が必要。 本例で言えば、千葉大学とベンダーがどのような責任分界を設定して契約を結んだかが大事になってくる。
1
1
6
306
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
遠藤さんのnoteも拝読しました。AIで書く技術の希少性は下がっても、現場で何に困っているかを知っている人の指示は、AIから出てくるものが変わるというお話でしたね。 ドメインの経験がそのままAIへの指示の精度になるなら、属人に振り切るほど、AIで拡張できる幅も広がりそうです。 私もハーネスを組んでいて、結局いちばん効くのは分野ごとの知見をどれだけ持たせられるかなので、自分の軸をもう少し尖らせていきたいです。
『AI × ドメイン × 個性 × SNS』 属人に振り切って、それをAIとSNSで拡張しまくるのが、実は一番強いんじゃなかろうか…🤔 君はどうする…?
1
1
2
186
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
そこなんですよね たたき台はAIで誰でも作れるようになりましたが、保守管理やトラブルシューティングに対応できるのか、専門外の人が少ない時間でクリアできるのかが課題になります 餅屋は餅屋とまでは言わないですが、専門家に依頼するのが安全牌なんですよね 医師のコンサル依頼とそかは同じかと🙄
AIでLPは誰にでも作れるんだよなぁ… ただ、 - ドメイン・サーバー更新や障害対応 - 医療広告ガイドライン適合の判断 このあたりまでは自動化できず、最終責任は医療機関に残ってしまう。 ただでさえ忙しい中で、これらを自分で管理し続けられるかどうか。 ここが月額を払って外部化するかどうかの分かれ目。 結局は「誰が手間をかけて、誰が責任とるのよ」 ここに帰結するけど、そこをケチるなら「医業に集中しろよ」っていうのはたしかに正論…👀
1
1
3
264
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
「ただでさえ忙しい中で」 これなんすよね。先生たち賢いから自分たちで作れるのはそれはそうなんですが、運用保守が普段の仕事にonされますけど大丈夫ですかっていう
AIでLPは誰にでも作れるんだよなぁ… ただ、 - ドメイン・サーバー更新や障害対応 - 医療広告ガイドライン適合の判断 このあたりまでは自動化できず、最終責任は医療機関に残ってしまう。 ただでさえ忙しい中で、これらを自分で管理し続けられるかどうか。 ここが月額を払って外部化するかどうかの分かれ目。 結局は「誰が手間をかけて、誰が責任とるのよ」 ここに帰結するけど、そこをケチるなら「医業に集中しろよ」っていうのはたしかに正論…👀
1
1
5
563
大田原正幸|医療AI/SIガバナンス|Cursorvers retweeted
やはり そこを通るのは規定路線なのですね。だとすると拠点病院のホットラインは閑古鳥が鳴く..?のでしょうか。ほとんど急性期も高齢者がほとんどなので...。気になりすぎる話題です!
病状が切迫する高齢患者の場合、 - まず新救急医療機関に運んで、そこにステイさせるか、急性期拠点病院へ転送するのか - 新救急医療機関をバイパスし、急性期拠点病院へ直接搬送するのか この判断を誰がどうするのか… この構想が出た時点で、そこが争点になるのは自明だったはずなので、今月開催の救急医学会総会で是非伺ってみたい。
1
4
291