SecHack365 2023 / 3rd Event WeekReport 3rd Event Week

発表テーマ：「データ駆動型プロセッサを用いたIoT機器の実現」

近年の農業や工業といったさまざまなシーンにおけるIoT技術の普及から、エッジデバイス注1に設計柔軟性を持たせること、高性能であること、低消費電力であることが、必要不可欠だと、植元さんは考えています。温度センサからデータを取得し、サーバに送信するシステムを作りたいということで、この分野に詳しくない人にも伝わるように、用語解説はもちろん、図を使って説明していきました。

「FPGAにDDPを実装してIoTシステムを作る」などといきなり言われると、異なる分野の人からすると、わけがわからず呆然としてしまいそう。

しかし、「どうせわからないだろう」で放置せず、「FPGAが、専用のソフトを用いて回路情報を自由に書き換えることができる柔軟性を持ったデバイスであり、応用ごとに専用の回路を実装することができること」「DDP（データ駆動型プロセッサ）は、タスクを多重に処理することができ、かつクロック信号注2を用いない構成になっていること」――
このような情報が与えられると、なんとなく何をしようとしているのか見えてきます。

さらに動く図が加わることで、回路内でデータをどのように動かそうとしているのか、視覚からも多くの情報を得ることができ、分かりやすい発表になっていました。

発表テーマ：「覚えやすく突破されにくいパスワードの実現に向けて考えていること」

パスワードの管理を簡単にするために多くの人が利用しているパスワードマネージャー注3。 しかし、マスターパスワードを忘れたり、漏洩させてしまったりすると、被害は甚大なものになります。その他にも、生体認証を利用したパスキーがありますが、松永さんは、過去に自分の指や顔を使ってパスワードを破られたことがあるといいます。

そこで、松永さんはパスワードを感覚とリンクさせることで記憶に残せば良いと考えました。まだアイデアしかできていないといいますが、五感、中でも匂いが最も記憶に残りやすいと言われていることから、嗅覚が利用できるのではないかと考えているとのこと。

ブレイクアウトルームでは、神薗トレーナーより、どのように落とし込むのかという質問も出ましたが、これに対してはNICTの施設見学の際に見た、アロマシューター注4からヒントを得たと答えています。神薗トレーナーは、自分もパスワード設定時に食べていたものをパスワードにしたことがあるといい、記憶と五感のつながりに可能性を感じさせました。音や匂いにノイズが混ざったらどうするのかというトレーニーからの質問に対しては、他の感覚を使って補うといいます。また、感覚は体調に左右されることがあるのではないかという指摘がある一方で、「トイレの芳香剤を良い香りと感じる人もいれば、不快に感じる人もいる。そのような感覚を生かせるのではないか」という意見もありました。

発表テーマ：「ネットワーク接続の可視化ツール」

高島さんは、個人のパソコンのネットワーク環境を可視化するツールを開発しています。可視化するにあたって、既知の接続先をライブラリに登録し、アイコンなどで代替できるようにするとともに、未知の接続先であっても頻繁に利用するものであれば、ユーザ自身で識別符号を付けられるようにしたいといいます。現状では、ローカルホストのまわりを囲むように接続中のホストと過去に接続していたホストを配置し、接続中のホストとは線で繋ぐことで、ポートにいくつコネクションがあるのか可視化しているといいますが、このツールを作成したことで、いくつかの課題を見つけたといいます。さらには、今考えていることとして、通信先とのパケットの流量や利用頻度、応答時間を可視化すること、通信専門のタスクマネージャーのような役割を最終的に持たせることを挙げるなど、新たな段階に向けて、開発を進めているとのことです。

ブレイクアウトルームでは、複数のトレーナーから提案がありました。今岡トレーナーからは、警戒すべきパケットを検出できたら良いのではないかと意見があり、安田トレーナーからは、自分が見たいウェブサイト以外にも途中に経由して繋がってしまっているものがあることから、ウェブトラッキング注5を可視化するのはどうかという提案もありました。横山トレーナーは、ログを取っていると、通信量だけでなく、長時間繋がっているものも分かるので、そういった接続をおかしいとユーザに気づかせるというのも考えていったらどうかという助言がありました。

発表テーマ：「ChatGPTアプリを守る！〜プロンプトインジェクションの事前検知〜」

近年、ChatGPTのような大規模言語モデルにプロンプトインジェクション攻撃注6を行い、コンピュータウイルスのプログラムを書かせたり、フィッシング詐欺のメールを作成させたりなど、犯罪に悪用される危険性が問題視されています。これに対し、若井さんはプロンプトインジェクション攻撃をSecHack365で開発した事前検知モデルが検知し、それに回答して良いか判定することで、大規模言語モデルを守ろうと考えています。若井さんによると、別の機械学習モデルが判定することで、大規模言語モデルに対する不正なプロンプトの潜在的な悪影響を未然に防げること、機械学習を通して多種多様なプロンプトに対応できること、新しい攻撃プロンプトが発見されても、小規模な事前検知モデルだけを再学習して対処可能なことを利点として挙げています。ビデオ発表では、用語解説やデモを交えて進めていきました。今後の課題として、事前検知モデルの精度改善を進めていくといいます。

発表テーマ：「技術記事の未読消化をサポートするアプリ「ReadStack」の開発」

技術に関わる人間であれば、日々流れる、技術動向についてのさまざまな記事に目を通すことが欠かせません。とはいっても、一度にまとめて記事を読み通すのは面倒ですし、「あの記事、どこに出てたんだっけ」などと悩むことも。永田さんは、あとで読もうと思っている記事が溜まってしまうことや、どこかで見たことある記事を思い出せないなどといったことを解決するためのアプリを開発しています。

発表の動画内では、アプリケーションのデモンストレーションも披露。例えば、記事を読むのを途中でやめて、タブを閉じると、未読記事の欄に分類され、再度開くと、読み終えた部分まで自動で移動してくれます。また、最後まで読み終えると、未読記事一覧から、今まで読んだ記事一覧に移動するなど、ユーザが読んだ記事を記録することができます。今後は、記事のサマリー生成機能や未読記事の消化サジェスト機能、達成感を感じてもらうため、自分がどれだけ読んだか分かるステータス画面やSNS共有機能を持たせたいといいます。

ブレイクアウトルームでは、読み終わっていない記事であっても、最後までスクロールしてしまうという人から、これでは既読判定されてしまうのではという指摘がありました。永田さんは、このような読者ごとの癖に対しては、手動と自動を組み合わせ、パーソナライズできるようにすることで解決していきたいといいます。その他にも、記事に多くアクセスすると、読みたい記事が他のものに埋もれてしまうのではないかという懸念もありました。これらの課題を踏まえて、どのように進化を遂げるのでしょうか。

発表テーマ：「SNS上における怪しいツイート・アカウントを判別する」

山口 哲弘さんは、SNSで騙されやすい人を守るため、botと大規模言語アプリを駆使して怪しいポスト（ツイート）・アカウントを判別しようとしています。現在は、特定のキーワードを自動で検索にかけて情報を収集するbotなど、ポスト（ツイート）データを収集する環境を作成中とのこと。最終的には、怪しいポスト（ツイート）を判別するためのプロンプトを生成し、投稿内容の評価結果を出力するといったことを考えているといいます。

ブレイクアウトルームでは、評価結果をどのようにユーザに見せるのか決まっていないということで、Google Chromeの拡張機能として実装したらどうかという提案がありました。それに対して山口さんは、ゼミでもそういった提案があったものの、今回のターゲットである騙されやすい人はそもそもリテラシーの低い人であることが多く、その場合、「自分からブラウザに拡張機能を追加する」というステップは難易度が高いので、現時点では拡張機能という形は想定していない、といいます。また、精度の高いものであれば、リンクや投稿主でしか判断できないのではないかという疑問に対しても、まずは怪しいキーワードに注意するようになり、被害が減ることを目指したいといいます。他にも、お金配り系のポスト（ツイート）など、他人の画像を使用しているものもあるが、過去に使用されたことがあるデータかAIにチェックさせるのはどうかという提案や警察サイバー対策課による怪しい投稿へのリプライを元にデータを集めるのはどうかといった提案もありました。