Look for any podcast host, guest or anyone
Showing episodes and shows of

Localhost Podcast

Shows

Podcast Episodes – The Bogosity Podcast2025-10-1927 minThe Bogosity Podcast2025-10-1927 minLocalhost2025-09-1122 minLocalhost2025-08-2140 minCloud on Air2025-07-3021 minLocalhost2025-07-2929 minTDH by BIMrras2025-07-1716 minSecurity-Insider2025-06-161h 45智慧時代新生活 AI & 資安玩家村2025-06-1318 minCloud on Air2025-06-1028 min株式会社ずんだもん技術室AI放送局
株式会社ずんだもん技術室AI放送局株式会社ずんだもん技術室AI放送局 podcast 20250603関連リンク MCPにおけるセキュリティ考慮事項と実装における観点(後編) この記事は、生成AIと外部の機能(ツールやデータ)を連携させるための技術仕様であるMCP(Model Context Protocol)のセキュリティについて、攻撃者の視点と、MCP Serverを提供する開発者が取るべき対策を中心に解説しています。前編では利用者の視点からセキュリティを考えましたが、後編では開発・運用側の視点に立ちます。 なぜMCPのセキュリティが重要かというと、MCP Serverは実行環境上でファイル操作やコマンド実行、外部サービスとの通信など、比較的広い権限を持って動作することが多いため、攻撃者に狙われやすいからです。攻撃されると、機密情報が盗まれたり、クラウド上のリソースを勝手に操作されたり、ひどい場合はシステムを踏み台にされてマルウェアを拡散されるといった被害が起こりえます。 攻撃者は主にMCPを構成する部分(生成AIアプリ、連携部分、サーバー)やその実行環境を狙います。具体的には、ユーザーに悪意のあるMCP Serverを誤って実行させたり、MCP Serverが利用する外部のデータを汚染したり、ファイルに仕込んだ見えない命令を使って意図しない操作をさせたりします。また、Streamable HTTP形式で動作するMCP Serverに対しては、ブラウザの仕組みを悪用したり、認証・認可が不十分なサーバーに直接アクセスしたりといった手口も考えられます。 これらの脅威に対し、開発者が行うべき基本的な対策はいくつかあります。まず、一般的なWebアプリケーションと同じように、ユーザーからの入力値(ファイルパスやURLなど)をしっかり検証・無害化し、Path TraversalやSSRF、コマンドインジェクションといった脆弱性を防ぐことが重要です。また、MCP特有の対策として、Toolの説明などをそのまま生成AIのプロンプトに含めず構造化情報として渡す工夫や、Tool実行時にはユーザーに確認を求める仕組みを入れることで、意図しない機能実行を防ぐことができます。 Streamable HTTP形式でローカルで動かす場合は、外部からアクセスされないようにlocalhostのみにバインドすること、Originヘッダで通信元を確認すること、不要なCORS設定をしないことが対策になります。もしMCP Serverをリモートで公開する場合は、通信をHTTPS化し、アクセス制御(IP制限や認証/認可)をしっかり導入することが必須となります。特に認可にはOAuth 2.1に準拠した仕組みを導入し、外部サービスとの連携時にはSession Bindingを考慮した安全な実装が必要です。 MCPのセキュリティ対策はまだ発展途上であり、新しい攻撃手法も出てくる可能性があります。記事の付録には実装者向けのチェックリストも載っているので、ぜひ活用しながら、常に最新の情報をキャッチアップして安全なMCPの実装・運用を目指しましょう。 引用元: https://blog.flatt.tech/entry/mcp_security_second Beyond the Black Box: Interpretability of LLMs in Finance この論文は、金融分野で活用が広がる大規模言語モデル(LLM)の「解釈可能性」、つまり「なぜAIがその結果を出したのか」を理解することの重要性とそのための技術について論じています。 LLMは現在、金融業界において、レポート作成、顧客対応チャットボット、市場センチメントの分析、規制遵守のチェック、投資アドバイス、情報の検索や要約など、様々なタスクで優れた能力を発揮しています。しかし、LLMは非常に複雑な構造を持つため、内部の動作原理が分かりにくい「ブラックボックス」状態になりやすいという大きな課題があります。 金融業界は、その性質上、極めて厳格な規制があり、システムに対する高いレベルの透明性、公平性、そして何か問題が起きた際に責任を明確にするための説明責任が不可欠です。「AIがなぜその判断を下したのか」を説明できなければ、特に人の財産や重要な判断に関わる場面で、安心して利用することが難しいのです。 この論文では、この課題を解決するために、「機構的解釈可能性(Mechanistic Interpretability)」という比較的新しい技術アプローチを、金融分野で初めて応用した事例として提示しています。機構的解釈可能性とは、LLMの内部構造や動作を文字通り「分解して逆さまに調べる」ことで、モデルがどのように情報を処理し、特定の振る舞いを生み出しているのかを最も分かりやすく理解しようとする手法です。モデルの内部にある情報の流れや処理のまとまり(「回路」と呼ばれることもあります)を詳細に分析することで、「なぜ」特定の予測や応答が生まれたのかを深く理解できます。そして、単に理解するだけでなく、モデルの望ましくない振る舞いを特定し、修正するための手助けにもなります。 論文では、この機構的解釈可能性の理論的な側面を解説しつつ、トレーディング戦略における意思決定プロセスの理解、市場センチメント分析での根拠特定、さらにはAIが持つ可能性のある偏り(バイアス)や事実に基づかない情報(ハルシネーション)の検出といった、金融分野における具体的な様々な応用例とその実験結果を示しています。 機構的解釈可能性はまだ開発途上の技術ですが、LLMの金融分野への浸透が進むにつれて、その重要性はますます高まると予測されています。このような高度な解釈可能性の技術は、AIシステムが常に倫理的であり、透明性を保ち、厳格な金融規制に適合し続けるために不可欠なツールとなるでしょう。論文の著者らは、特に金融規制やコンプライアンスの観点から、これらの技術が現在のニーズだけでなく、将来の世界の金融規制当局からの期待にも応えうる可能性を強調しています。 この研究は、LLMを金融のような信頼性が極めて重要な分野で、安全かつ責任を持って利用するための技術的な基盤を築く一歩と言え、AIの信頼性向上に関心のあるエンジニアにとって注目すべき内容です。 引用元: https://arxiv.org/abs/2505.24650 PythonとOpenAI APIで実践!はじめてのMCP開発入門【第10回】MCP活用プログラミング(2) - 会話履歴コンテキストで文脈を維持する「インテリジェント・チャットボット」の基礎 この記事は、PythonとOpenAI APIを使って、会話の内容を覚えて自然な対話ができるチャットボットを作るための基礎を解説しています。新人エンジニア向けに、チャットボット開発で非常に大切な「会話履歴の管理」について、分かりやすく説明されています。 チャットボットは、特別な設定をしないと、以前のやり取りを忘れてしまいます。例えば、「今日の天気は?」と聞いた後に「傘はいる?」と聞いても、「どこの天気?」と聞き返されてしまうことがあります。これは、AIがそれぞれの質問を独立したものとして扱ってしまうためです。 そこで重要になるのが「会話履歴」です。過去の会話をAIに伝えることで、AIは文脈を理解し、一貫性のある、より人間らしい応答ができるようになります。この記事では、この会話履歴をAIに伝えるためのOpenAI APIの標準的な形式であるmessages配列について詳しく解説しています。 messages配列は、AIにチャットボットとしての役割やルールを伝えるsystemメッセージ、ユーザーの入力であるuserメッセージ、そしてAI自身の応答であるassistantメッセージを順番に並べたリストです。新しいユーザー入力があるたびに、このリスト全体をAPIに送ることで、AIはこれまでの会話を「記憶」します。
2025-06-0200 minLocalhost2025-05-1546 minSecurity-Insider2025-04-2334 minHacker News Daily2025-04-1100 minLiquid Weekly Podcast: Shopify Developers Talking Shopify Development2025-04-101h 13Localhost2025-04-0344 minLocalhost2025-03-1129 minVerticAI Newshound2025-03-0303 minLocalhost2025-02-2543 mintalkingshop.dev2025-01-221h 02Localhost2025-01-1622 minNodesignal - Deine Bitcoin-Frequenz2024-12-061h 25Localhost2024-11-2627 minCloud on Air2024-10-0826 minLocalhost2024-08-2925 minLocalhost2024-08-0839 minLocalhost2024-07-1830 minBusiness Podcast by Roohi | VC, Startups2024-06-1022 minDataCenter Diaries2024-05-2108 minDataCenter Diaries2024-05-0607 minDataCenter Diaries2024-04-1905 minIndieventure2024-04-041h 58Localhost2024-04-0441 minLocalhost2024-03-2136 minThe Seva at Scale Show2024-03-1933 minLocalhost2024-03-1427 minLocalhost2024-02-2926 minLocalhost2024-02-1246 minLocalhost2024-02-0136 minDataCenter Diaries2024-01-1643 minSecurity-Insider2023-12-1958 minSecurity-Insider2023-12-0646 minCloud on Air2023-12-0542 minLocalhost2023-10-3029 minCloud on Air2023-09-2034 minEngineering Kiosk2023-09-191h 16Dev-Metal2023-08-0337 minLocalhost2023-07-2743 minCloud on Air2023-07-2027 minBehind the Game2023-07-1649 minFirewalls Don\'t Stop Dragons Podcast2023-07-031h 01Dev-Metal2023-06-2925 minLocalhost2023-06-2743 minCloud on Air2023-06-1934 minThe Swyx Mixtape2022-12-0428 minI\'d Rather Be Scripting2022-09-1652 minThinking Elixir Podcast2022-09-131h 05The InfoQ Podcast2022-08-2927 minThinking Elixir Podcast2022-08-0251 minEngineering Kiosk2022-07-261h 08Metercast - Podcast2022-01-101h 57CodingCat.dev Podcast2021-10-161h 00Plugging In The Holes2020-06-0702 minLocalhost Podcast2019-12-0443 minLocalhost Podcast2019-09-0834 minLocalhost Podcast2019-08-0237 minLocalhost Podcast2019-07-0645 minIT-Berufe-Podcast2019-06-1741 minLocalhost Podcast2019-06-1034 minLocalhost Podcast2019-04-1001 minLocalhost Podcast2019-03-1938 minLocalhost Podcast2019-02-2111 minLocalhost Podcast2018-12-191h 00Localhost Podcast2018-10-301h 03Localhost Podcast2018-09-201h 12Localhost Podcast2018-08-091h 10Localhost Podcast2018-06-1855 miniteration2018-05-1800 minLocalhost Podcast2018-05-041h 01Building Infinite Red2018-05-0300 minLocalhost Podcast2018-03-2345 minLocalhost Podcast2018-03-141h 08Localhost Podcast2018-02-261h 05Localhost Podcast2018-01-0819 minLocalhost Podcast2017-12-201h 11Localhost Podcast2017-12-1458 minLocalhost Podcast2017-12-021h 21Localhost Podcast2017-10-3054 minLocalhost Podcast2017-10-3048 minColdFusion Alive2017-09-1459 minLocalhost Podcast2017-09-121h 08Localhost Podcast2017-08-041h 17Localhost Podcast2017-06-211h 00Localhost Podcast2017-05-041h 04Localhost Podcast2017-03-2200 minLocalhost Podcast2017-03-061h 00Localhost Podcast2017-02-1347 minLocalhost Podcast2017-02-0657 min