しんさんのブログ

科学や技術のこと読書のことなど

「生成AIで世界はこう変わる」 今井翔太著を読みました


東大松尾研究室の今井さんの一般向け生成AI解説本です。 本書の最後には松尾先生と今井さんの特別対談も収められています。

生成AIの現状と未来について知りたい人におすすめ

生成AIってなに?っていう人にとっては少しむつかしめの内容です。
と言っても数式が出てくるわけではないので、ChatGPTや画像生成AIについて聞いたことがありどんなことができるか知っているという程度の知識さえあれば本書を読み進むことができます。

技術の解説がわかりやすい

2章では生成AIの背後にある技術を解説しています。 数式を一切使わずChatGPTがなぜ人間と”まともな”会話ができるのかを説明しています。 この、”まともな”というところが重要で例えば、「明日学校行くの嫌だけどどうしたらいい?」と質問して、AIが 「じゃあ大災害が起きて学校がつぶれることを祈ればどうですか?」と答えたらどう思いますか?
会話としては成立していますが、決して”まともな”返答とは言えません。
世の中にある多数のテキストを学習しただけでは上記のようなおかしな返答が返ってくるAIが出来上がってしまします。
ではどうすればもっとまともな応答ができるAIを作れるのでしょうか。
それこそまさにChatGPTが使用している技術で、それについて平易に解説してあります。

生成AIとともに歩む人類の未来

最終章では著者の主観も交えながらAIが人間の能力を超えていくような未来に人は何を考え何を大切に生きていくのか、それについて議論が展開されています。
AI関連の技術は進歩が指数関数的に早くなっているので未来はこうなるという予想は不可能です。
ほんの数年先ですらどうなるかを日々最先端の研究をしている著者でさえはっきりしたことは言えないようです。  
対談の中でもこの話題はでてきていましたが、東大の松尾先生ですら数年先も予想できないと述べています。
では我々は今どうすればいいのか、答えは本書を読めばおぼろげながら見えてきました。

世の中に生成AIの書籍が山ほどあふれていますが、その中で数少ない必読の本だと思いました。

追記:筆者の本書の執筆に関するnoteのリンクを張っておきます。

生成AIの本を執筆する者は一切の希望を捨てよ~2023年の生成AIと『生成AIで世界はこう変わる』執筆振り返り~|今井翔太@えるエル(ImAI_Eruel)

「ChatGPTの頭の中」スティーブ・ウルフラム著 を読みました

お正月1冊目の読書はウルフラムが書いたChatGPTに関する本です。

ウルフラムと言えばあのMathematicaを開発したことで名が知られています。 また、言語学の研究もしており言語モデルニューラルネットワークにも造詣が深い人物です。
そのウルフラムがChatGPTの登場に驚くと同時に、その限界とMathematicaのような計算言語との融合による新たな可能性について述べています。

ChatGPTがなぜあれほど少ないパラメータであたかも人間のように流ちょうに言語を扱うことができるのか、ウルフラムはそれについて人類はまだそれを説明できるような科学的な知識体系を発見していないと書いています。

ただ言えるとことしてこれまで人が行う非常に高度な能力と思われていた、人間のように会話するだとか小論文を書いたりメールを書いたりするという行為は計算論的には非常に簡単で浅い行為であったということが、ChatGPTで明らかになったということです。

本書は大きく2章に分かれており、1章ではChatGPTの仕組みについてウルフラムの切り口で解説しています。 2章はウルフラムらの開発するWolfram AlphaとChatGPTが融合することで、それぞれが補完しあって人間のように会話するChatGPTが計算言語を手に入れることができると論じています。

厳密に答えが出せるような問いに対してあいまいな返答や間違った答えを返すChatGPTがWolfram Alphaと対話することで論理的で正確に答えを導き出す能力を得ることができると述べています。

ページ数で言うと8割程度が1章で残りのわずかが2章及び今後の展望なのですがウルフラムのほんとに言いたいことは後半の2割に凝縮されていますので途中で投げ出さずに最後まで読むことを勧めます。

ちまたにはChatGPTの使い方とか使いこなすとこんなに便利になりますよといった本があふれていますが、本書はそういう一般書とは一線を画す、言語モデルの本質を明らかにしようとする著者の知的好奇心が凝縮された良書で、普段AIに携わる人もそうでない人も必ず読んでおく必要がある書籍だと思います。

数学マンガ、「数学であそぼ」1巻読みました

前から気になってた数学マンガの「数学であそぼ」を年末休みで読みました。
大学の理学部に入った主人公が、いきなり大学の数学で躓くという理学部生あるあるのストーリです。
関西出身の人なら、大学の雰囲気や街の様子など懐かしい場面も多く出てきます。
数学マンガと言いつつ数学の話はほとんど出てきません。
まだ1巻しか読んでません、いわゆる青春コメディーマンガです。
理系の人なら何も考えずに楽しめると思います。
裏表紙には「数学って面白い!読めば数学が好きになる 爆笑キャンパスライフ」と書いてありますので2巻以降では数学の話がもっと出てくるかもしれません。
ちなみに、「数学ゴールデン」は全巻所有してます。こちらは競技数学に挑む高校生の青春物語です。

2023年 Advent Calendarリスト

今年の気になるAdvent Calendarリストです。

今年もこの季節がやってきました。
徐々にリンクを増やしていきます。

まとめ

今年も魅力的なカレンダーが沢山あります。
リストは随時更新していきます。

「脳の大統一理論 自由エネルギー原理とはなにか」 乾 敏郎、阪口 豊/著  岩波科学ライブラリー を読みました

勤労感謝の日の休日読書です。
結構むつかしめの本ですが頑張って読むと得るものはあります。

壮大なタイトル

大統一理論と言えば理論物理では重力を除くすべての力を統一的に説明する理論とされていますが、それと同様本書では脳の情報処理をただ一つの原理に基づいて説明する試みを紹介しています。

自由エネルギー原理

脳の統一理論とはなにかといえば、2006年ころからイギリスのカール・フリストンという研究者が提唱した脳の情報処理原理を説明する一般的理論「自由エネルギー原理」です。

自由エネルギー原理とは何か

非常に大雑把に言ってしまえば、脳の中で建てたモデルに基づく状態と、感覚信号などの外部から得られた状態の差のことです。 脳はこの差分をできるだけ少なくするという原理に基づいて情報処理を行っているという主張が自由エネルギー原理です。 知覚に関しては例えば網膜に映ったコップの2次元像と脳の中のコップを見るというモデルによる結果の差を少なくするように脳の中のコップを変化させることで外界を正確に知覚できるということです。 運動に関しては能動的に筋肉を動かす信号を出すことで、実際の筋肉や外界の信号との差分である自由エネルギーを最小化する成果を能動的に観測しに行くと考えれば知覚と同様の枠組みで脳の動作を理解できるそうです。 これが、能動的推論という考え方です。

脳の機能に基づく疾患も説明できる

自分でくすぐってもくすぐったくないのはなぜかや、コップをなぜつかむことができるのかという説明だけでなく、自由エネルギー原理は様々な疾患の症状も説明できるようです。 例えば統合失調症自閉症の人の行動が自由エネルギー原理に基づいて説明されています。 本書によれば脳内物質のドーパミンの役割もこれまで考えられていたものと異なり、信号の精度を決める役割を担っているそうです。 ドーパミンの減少や過剰で生じる疾患の治療にも影響があるのではないかと思いました。

AIやロボティクスへの応用

ロボットの行動やAIの学習に対して本書で説明されているような自由エネルギー原理に基づく手法を応用すれば、もっと人に近い行動や学習ができる機械が作れるのではないかと思いました。 本書ではそこまでの記述はなかったですが、気になります。

5章の感情と内部状態の説明には理解しにくい部分も多々ありました。
次に進むにはもっと専門的な内容に踏み込む必要がありそうですが、いままで聞いたことのなかった脳の大統一理論、そして自由エネルギー原理について少なくとも何を言っているのかという知識を得ることができます。

「生成AI」 ChatGPTを支える技術はどのようにビジネスを変え、人間の創造性を揺るがすのか? 小林雅一/著  を読みました

三連休に読んでみました。

一般の人向けの生成AIの解説書

生成AIについてエンジニアや研究者向けの記事や文章は普段からよく読むのですが、本屋さんのいわゆるビジネス書の棚に並ぶような書籍は変に物事を大げさにとらえたり、危機感をあおっていたり逆にすごい未来が来るというような極端に人を扇動するような内容や事実ではない内容が書かれている本も見受けられるのでいままであえて避けてきました。

それでも手に取った理由

じゃあなんでこの本を読んだのかと言えば、特に理由はないのですが家族が持っていて著者が物理学の修士出身だったのでそれなら最低限の科学リテラシーはあるに違いないと判断したからです。

LLMをはじめとした生成AIの一般書としておすすめします

日々進歩する生成AI技術ですので書籍という形をとる限り若干内容が古くなってしまうのはやむをえないですが、本書はLLMの出版時点(2023年7月)最新のLLMや画像生成AIの現状をくまなく紹介しこの分野を概観するのにとてもよい一般書でした。
文系のビジネスマンの方でも詰まることなくすらすらと読むことができ、最後まで読めばChatGPTってどういう経緯で開発されたのか?を知ることができます。

「半導体戦争 世界最重要テクノロジーをめぐる国家間の攻防」 クリス・ミラー/著  を読みました

週末の読書として前から気になっていた本書をようやく手にしました。 トランジスターの発明から、抵抗やキャパシターとともにそれらを回路パターンにしてシリコンの上に集積していく技術、言ってしまえばそれだけのことなのですがそれがそれだけのことではないのが半導体というものです。
その半導体が現在では現代の社会の根本を支え文明を支え、戦争の行方、国家の存続にまで影響を与える、重要な戦略物資になっています。
そしてアメリカや日本、欧米諸国と中国がその製造技術をめぐって激しい戦いを繰り広げています。
本書を読めばごく初期のトランジスターの発明から集積回路の発明、そしてその過程であれわれるキーマンと関連する企業について歴史を追って理解できます。
今話題の半導体について知りたい方は手に取ることをお勧めします。
特に理系の大学に進もうと思っている高校生や理系学部生におすすめします。