株式会社アイスリーデザインは、2024年9月10日(火)に「未来の知能を解き明かせ！生成AIと脳科学が変えるビジネス戦略」をテーマにしたセミナーを開催しました。
今回は、このセミナーの内容を前編・後編の2回に分けてご紹介いたします。
はじめに
セミナー詳細
このセミナーでは、最新の脳科学と生成AIの融合がどのようにビジネス戦略を革新するかについて探究いたしました。
脳科学の立場からは、著名な脳科学者の茂木健一郎氏が登壇し、脳の働きと知能の進化に関する貴重な洞察を提供します。生成AIの最前線からは、2024年4月にKDDIグループに参画した、東京大学松尾研究室発のAIカンパニー、株式会社ELYZA CMOである野口竜司氏が登壇し、生成AIが企業にどのような新たな可能性をもたらすのかを具体的に解説しました。
今回は5つのテーマに絞り、探求していきました。前編では「シンギュラリティ」「生成AIとは何なのか」といった2つの議題におけるディスカッションをご紹介いたします。
登壇者プロフィール
脳科学者 茂木健一郎（写真左）
－－－－－－－－
脳科学者／理学博士。作家、ブロードキャスター、コメディアンとしての顔を併せ持つ。ソニーコンピュータサイエンス研究所上級研究員。クオリア（意識のなかで立ち上がる、数量化できない微妙な質感）をキーワードとして、脳と心の関係を探求し続けている。
株式会社ELYZA CMO 野口竜司（写真中央）
－－－－－－－－
大学時代からITベンチャーでAIプロジェクトに携わり、その後ZOZOグループにてVP of AI driven businessや取締役CAIOを歴任。2022年4月に東大松尾研究室発のAIカンパニー、ELYZAのCMOに就任。大企業でのAI戦略/企画策定やAIプロジェクト推進を多数リードしてきた経歴をもつ。ここ数年はAIの社会実装をキャリアのコンセプトとしており、日本ディープラーニング協会や金融データ活用推進協会でも活躍する傍ら、著書を通じてAI人材育成にも貢献している。
株式会社アイスリーデザイン 取締役CMO 吉澤 和之（写真右）
－－－－－－－－
フリーライターからキャリアを始め、創刊雑誌の初代編集長を務める。その後は広告代理店でクリエイティブデイレクターを経験し、外資系MarTech企業（現Cheetah Digital社）に転職。ビジネスアーキテクトとして新規事業開発やマーケティングなどに従事。その後独立し、個人でSaaS企業の事業コンサルティングを行う傍ら、ニューヨーク発のIT企業MovableInkの日本進出支援、Repro株式会社にてCBDOなどを歴任。20年6月からは台湾発AIテックスタートアップのawooにジョインし、日本市場開発責任者として日本法人awoo Japanの立ち上げとグロースを成功させる。21年スタートアップピッチアジェンダ最優秀賞、22年繊研新聞主催ファッションECアワード受賞。23年2月より現職。
セミナーレポート
ChapterⅠ : シンギュラリティは近い
吉澤：レイ・カーツワイル（※1）が最新のシンギュラリティの本を出版しました。
（※1） レイ・カーツワイルとは
アメリカの発明家。シンギュラリティ（技術的特異点、AIが人間を越える）の提唱者。レイ・カーツワイル氏によって、シンギュラリティが提唱されたことで、様々な人がシンギュラリティが来るタイミングについて議論を交わしています。2024年6月に『The Singularity Is Nearer: When We Merge with AI（シンギュラリティはさらに近い -コンピュータと統合する時-）』という本とともに、最新の見解が発表されています。内容は下記画像の通りです。
当該書籍『The Singularity Is Nearer: When We Merge with AI』
吉澤：シンギュラリティは来るんですか？
野口：もう来ていると勝手に思っているんですけど、シンギュラリティの定義にもよりますが、「人間の知能を越える」ということであれば、来ているといっていいのではないかと思います。局所的に。
茂木：こういうのは本来論文で書かなければいけないんですが、忙しすぎて、今論文に書きたいテーマが100個くらいあって（笑）。
技術的なナノポッド（※2）の話でいうと、元々僕、筋肉の研究をしていたので、アクティベーションとか、タンパク質の挙動の制御のことを考えると、カーツワイルほどには楽観的ではない。
今AIがなぜこんなに爆誕しているかというと、単純に熱力学的にきわめて発散が大きい領域で無駄なエネルギーをまき散らしながら計算しているから、あんまりエラーがないんですよ。ナノポッドになった時に、シンギュラリティのロジックが通るかというとカーツワイルほどには楽観的ではないのが1点なんですけど。
もう1個は、がんの克服とか、認知症の克服のようなパラメータ数が多く必要なものになると、人間の脳、知能では追い付かなくて、AIが実質的に意味を持つようになると思うので、
その点では、新しいサイエンスへの応用はかなり期待できるのかなと。
（※2）ナノポッドとは
ナノテクノロジーの分野で注目されている微小構造体のことをナノポッドといいます。
比較的新しい研究分野であり、合成方法や特性の解明等が活発に行われており、医療、環境分野での応用が期待されています。
（レイ・カーツワイルの本を）日本語訳、待っている時代じゃないですからね（笑）、とっとと読みましょう。
野口：かなりの電力を使うので、そう簡単なものではないんです。そう考えると人間の脳って効率良いなと思いますね。比べるベースが違うというのもあるんですよね。
茂木：あとやっぱり、カーツワイルのほぼ唯一の論拠はムーアの法則（※3）なんですよね、ムーアの法則、今の予測だと2040～2050年まで続くんじゃないかと言われていて。「それだけ計算資源が増えたときに何に使うの？問題」が、LLMを使っている立場からするといくらでも無限に使えますよという感じなんですかね？
（※3） ムーアの法則とは
ムーアの法則は、半導体産業の発展を予測した重要な経験則です。
1965年にIntelの共同創業者の一人、ゴードン・ムーアによって提唱され「半導体のトランジスタ集積率は18ヶ月で2倍になる」という法則であり、半世紀以上にわたり半導体産業の指針となり、技術革新を促進してきました。現在でもその影響力は大きく、産業界に大きな影響を与え続けています。
野口：いや、有限だなと思いますね。サチります（飽和する／上限に達する）。そもそも、LLM単体の能力でもサチると思っているので。ただし、マルチモーダルAI（異なる種類の情報をまとめて扱うAI）が出た瞬間に活用出口の組み合わせが爆発して、精度が上がっていくと思うんですよね。
茂木：だから「計算資源、潤沢だよ」というのがカーツワイルの楽観主義なんだけど。（そんなに潤沢な計算資源を）何に使うんだというね。だからAI研究者は核融合に興味を持っている人もいるので、ひょっとしたら、核融合の設計もAIにやらせるというか。
■AIは結局、味方なのか、敵なのか？
吉澤：AIは結局、味方なんでしょうか、敵なんでしょうか？
野口：ある人によっては味方で、ある人によっては敵である。二面性を持つというのが私なりの答えですね。
茂木：フレンドリーAIという概念を出した人（Eliezer Yudkowsky）が、いつからか完全に逆の立場、つまり悲観主義になってしまったんですよね。論理を突き詰めて、AIアライメント（※4）は無理だと、人類は滅びるという思考に回っちゃったんですね。俺も避けられない気がするんだよね、人間の破滅は。俺は全然楽観的じゃないですね。
（※4）AIアライメントとは
アライメントという言葉には、調整、調節、整列といった意味があります。AIアライメントの場合、人間に合わせて調節するという意味合いを持ち、AIシステムを、人間の意図する目的や嗜好、または倫理原則に合致させることを目的とする議論や研究のことを指します。
野口：先生のお話も聞いていても、人間は自滅していく道に向かっていきそうだなと。
茂木：騙そうと思ったらいくらでも騙せる。フィッシングメールとかああいうの、人の個性を把握して提案してくることもあるじゃない。
野口：もう来ていますね。フェイスブックに上げている写真を読み込んで、あなた、こういう状態でしたよねという感じで出てきているので。Meta社の公式の機能ではなく、追加でボットがコメントしてきたりしているんですけど。
茂木：生成AIに対する攻撃防御、そこら辺のセキュリティというのが、これからの成長産業であることは間違いないんじゃないかなと思います。かなり最近スパムが高度化してきていると思います。
吉澤：生成AIのセキュリティの担保は進んでいるんですか？
野口：AIが出す内容自体が悪質かどうかは、研究されているんですけど、プラットフォーム上で守られたもの、なので。LLMそのものに対しては、性善説でしかないというか。最近オープンソース系も出てきたので、誰もが悪用できる状態になっているんですよね。
茂木：英語の本で、三冊目として「ストイシズム」という本を来年出版するんですけど、その打ち合わせでロンドンの出版社に行ったときに、執行役員がAmazonのKindleって、1人が出版できる冊数を制限していると言っていて。生成AIを使ってたくさん本を出すことが流行っているらしくて、ユーザー側も安いんだけど、内容も大したことないんだけど、その程度でいいやと読んでいる市場があるらしくて。
野口：人間側と企業に規制するしかないですね。
ChapterⅡ：生成AIとは何なのか
吉澤：生成AIとは何なのか、ということなんですが、結局これまでのAIとは何が違うのでしょうか？
野口：トランスフォーマーの影響が大きいというか、大規模なデータでやっているというのが大きいんですが、人へのアライメント、出力内容に対して人間がどのように感じるか、アライメントの部分もだいぶ発達しているのが生成AI。テキストも画像もそうですし。
大規模なデータに対して出力できるようになった、プラス、人へのアライメントが評価できるようになったというのが説明の仕方の1つですね。
吉澤：どういうロジックで創作活動ができるようになったんですか？
野口：これは説明が割と不可能ですね。
茂木：ネクストトークンプレディクション（与えられた文脈や文章の一部に基づいて、次に来る可能性が高い単語（トークン）を予測すること）をやっているだけだから、それで、あれだけのものが出るというのは、おそらくOpenAIのエンジニアも予想外のことだったと思うんですよ。
吉澤：ある時から急に学習性能が上がりましたよね。
茂木：何言っているかわからない文字列というのは、色々ありうると思っていて、今までのAIはそういうものが出てきていたんですけど、ChatGPT以来の生成AIは高速文字列を吐き出して、人間が読めて、これ意味が分かるよねという内容なんですよね。そこが脅威で。なんでそこが出来ているかというと、ネクストトークンプレディクションで次のどんなトークンがくるかを予測しているとしか言いようがなくて。
野口：昔々って言ったら次は何、みたいな。
茂木：というのが永遠に続いていくよね。でもそこで、ハルシネーションがあって。でも（ELYZAは）ハルシネーションの問題ってどうしているんですか？
■ハルシネーション問題への対策について
野口：プロンプトで制御する感じですね。あとは、ガードレールをどれだけ敷けるかというのが現時点の対策です。
茂木：でも力づくでやるには、プロンプトインジェクション（※5）の問題もありうるわけで。両方ありうるというか。ルイージ・ワルイージ効果というのがあって、ワルイージのことも内部モデルにいないとだめだから、ルイージの中にワルイージが出てきて、「何やってんだお前」って出てくるわけで。
（※5）プロンプトインジェクションとは
対話型AIに対する脅威として知られている、サイバー攻撃のこと。
生成AIに対して、意図的に誤作動を起こさせるような指令入力を与えることで、提供側が出力を禁止している情報（開発に関する情報、犯罪に使われうる情報等）を生成させる攻撃のことを指します。
茂木：この分野がなんで面白いかというと、ビジネスで用途がすごくミッションクリティカルなものをやろうとすると、言語とは何か、知能とは何かという本質的な洞察が必要になってくる。それがAIの面白いところ。いい人って実は、中に極悪人もいるはずじゃん。極悪人の気持ちもわかっているはずじゃん。
なかなかこれが大問題で、これ全部オンゴーイングプロブレム（現在進行形の問題）ですね。
吉澤：ネクストトークンプレディクションだけじゃないかもしれないですね。
茂木：いや、それだけで進んでるんだよね。そのためにガードレールを敷く必要があるんだけど。
野口：ガードレール機能を正常にローンチしようとすると、めちゃめちゃ厳しいガードレールしか成り立たない。いい塩梅がつくれない。生成AIの出力に対して、かなり厳しく止めるガードレールしか無理というのが現時点ですね。
茂木：難しいよな。
吉澤：正解、不正解が分からないですからね。判断軸が難しいですよね。カルチャーも多様ですし。
野口：多様であり、沼にはまるポイントです。
前編まとめ
ここまでが前編となります。
シンギュラリティはもうすでに来ているのではないか、AIは人間にとって味方でもあり、敵でもあるといった考え、そして良い発言をするAIの中にも悪い面がインストールされているはずである（ルイージ・ワルイージ効果）といった広範囲にわたる様々な議論が飛び交いました。
後編では、今後の生成AIの展開にまで言及していきます。
後編はこちらから読むことができます！
また、AIも念頭に置いて、自社のアプリやシステムのリニューアル、または新規開発を検討されている方は是非、こちらから弊社アイスリーデザインにご相談ください。
▼生成AIを活用し、特徴量エンジニアリングによって、UIデザイン、画面レイアウトのアウトプットをコントロールした技術事例はこちら
特徴量エンジニアリングを使って生成AIによるUIデザインと画面レイアウトのアウトプットをコントロールする技術を開発 | ニュース
