エントロピー
エントロピー (テンプレート:Lang-en-short テンプレート:IPA2[1]) は、熱力学および統計力学において定義される示量性状態量である。当初は熱力学において、断熱変化の不可逆性を表す指標として導入され、後に統計力学において、系の微視的な「乱雑さ」を表す物理量という意味付けがなされた。 更に、系から得られる情報に関係があることが指摘され、情報理論にも応用されるようになった。 物理学者の テンプレート:En のようにむしろ物理学におけるエントロピーを情報理論の一応用とみなすべきだと主張する者もいる。
一般に記号 テンプレート:Mvar を用いて表され、統計力学におけるボルツマンの公式
- <math>S=k_\mathrm{B}\ln \Omega</math>
がよく知られている。ここで、テンプレート:Math は系が定められたエネルギー・体積の下でとりうる状態の数、テンプレート:Math はボルツマン定数である[2]。この定義より、エントロピーはボルツマン定数と同じ「エネルギー÷温度」の次元を持ち、SIにおける単位は J/K である。エントロピーと同じ単位を持つ量は他に熱容量がある。
似た用語のエンタルピーは音が似ているだけで全く異なった概念であり、注意を要する（英語では テンプレート:En テンプレート:IPA2[1] および テンプレート:En テンプレート:IPA2[3] で音もかなり違う）。
目次
概要
エントロピーは、熱力学、統計力学、情報理論など様々な分野で使われている。しかし分野によって、その定義や意味付けは異なる。よってエントロピーを一言で説明することは難しいが、大まかに「何をすることができて、何をすることができないかを、その大小で表すような量」であると言える[4]。
歴史
エントロピーは、ドイツの物理学者ルドルフ・クラウジウスが、カルノーサイクルの研究をする中で、テンプレート:Math[5] という式の形で導入した概念で、当初は、「でたらめさの尺度」としてではなく、熱力学における可逆性と不可逆性を研究するための概念であった。しかし、原子の実在性を強く確信したオーストリアの物理学者ルードヴィッヒ・ボルツマンによって、エントロピーは、原子や分子の「でたらめさの尺度」であることが論証された。
ルドルフ・クラウジウスは1854年にクラウジウスの不等式として熱力学第二法則を表現していたが、彼自身によって「エントロピー」の概念が明確化されるまでにはそれから 11 年を要した。 非可逆サイクルで テンプレート:Math とならないこの値をクラウジウスは仕事と熱の間の「変換」で補償されない量として、1865年の論文においてエントロピーと名付けた。 エントロピーという言葉はギリシャ語で「変換」を意味するトロペー（τροπή）に由来している。
その後ボルツマンやギブスによって統計力学的な取り扱いが始まった。情報理論（直接的には、通信の理論）における情報量の定式化が行われたのは、クロード・シャノンの1948年『通信の数学的理論』である。シャノンは熱統計力学とは独立に定式化にたどり着き、エントロピーという命名はフォン・ノイマンの勧めによる、と言われることがあるが、シャノンはフォン・ノイマンの関与を否定している[6]。
熱力学におけるエントロピー
熱力学では、ある系のすべての熱力学的な性質が、一つの関数でまとめて表現される。その関数は完全な熱力学関数と呼ばれ、エントロピーはその内の一つである。エントロピーから不可逆性を特徴づけられる。
クラウジウスによるエントロピーの定義
以下のエントロピーの説明は、クラウジウスが1865年の論文の中で行ったものを基にしている。クラウジウスは熱を用いてエントロピーを定義した。この方法による説明は、多くの文献で採用されている。
簡単な状況下での説明
温度 テンプレート:Math の高熱源から テンプレート:Math の熱を貰い、温度 テンプレート:Math の低熱源に テンプレート:Math の熱を捨て、外部に テンプレート:Math の仕事をする熱機関を考える (テンプレート:Math)。 この熱機関の熱効率 テンプレート:Mvar は テンプレート:Indent である。 一方、カルノーの定理により熱機関の熱効率の上限 テンプレート:Math は テンプレート:Indent である事が知られている[7]。 これら 2 本の式を整理することで、 テンプレート:Indent が成立することが分かる。
可逆な熱機関の熱効率は テンプレート:Math と等しく、このため可逆な熱機関では テンプレート:EquationNoteは等号 テンプレート:Indent が成り立つ。 すなわち、可逆な過程で高熱源に接している状態から低熱源に接している状態に変化させたとしても <math>\frac{Q}{T}</math> という量は不変となる。クラウジウスはこの不変量をエントロピーと呼んだ。
可逆でない熱機関は熱効率が テンプレート:Math よりも悪いことが知られており、このため可逆でない熱機関では テンプレート:EquationNoteは等号ではなく不等式 テンプレート:Indent が成り立つ。 すなわち、可逆でない過程で高熱源で熱を得た後、低熱源でその熱を捨てるとエントロピーは増大する（エントロピー増大則）。
一般の場合
上では話を簡単にする為、高熱源と低熱源の 2 つしか熱源がない場合を考えたが、より一般に テンプレート:Mvar 個の熱源がある状況を考えると テンプレート:EquationNoteは テンプレート:Indent となる（クラウジウスの不等式）。 ただし上の不等式では テンプレート:EquationNoteと違い、テンプレート:Mvar は全て外部から得た熱であり、熱を逃がす場合は負の値としている。
可逆なサイクルでは等号 テンプレート:Indent が成り立ち、この式で テンプレート:Math とすると、 テンプレート:Indent となる。
そこで、適当に基準となる状態 テンプレート:Math と、そのときの基準値 テンプレート:Math を決め、状態 テンプレート:Math におけるエントロピー テンプレート:Math を テンプレート:Indent と定義する。ここで テンプレート:Mvar は状態 テンプレート:Math から状態 テンプレート:Math へと変化する可逆な過程であり、テンプレート:EquationNoteからエントロピーの定義は可逆過程 テンプレート:Mvar によらない。
エントロピー増大則
状態 テンプレート:Math から状態 テンプレート:Math へと移る任意の過程 テンプレート:Mvar と、同じく状態 テンプレート:Math から状態 テンプレート:Math へと移る可逆過程 テンプレート:Mvar を考え、テンプレート:Math を テンプレート:Mvar の逆過程とする。このとき テンプレート:Mvar と テンプレート:Math を連結させた過程はサイクルとなる。
このサイクルについて、導出と同様にクラウジウスの不等式から テンプレート:Indent が導ける。ここで テンプレート:Math は熱源 (テンプレート:En) の温度（一般に系の温度 テンプレート:Mvar とは一致しないことに注意）。つまり、 テンプレート:Indent\frac{d'Q}{T_\mathrm e}\le0</math>}} である。
このとき テンプレート:Math の過程中においては、この過程は可逆過程であるから、熱源の温度 テンプレート:Math は系の温度 テンプレート:Mvar に一致する。したがって テンプレート:Indent\frac{d'Q}{T}\le0</math>}} 、つまり テンプレート:Indent となる。ところが、 テンプレート:Indent であるために、 テンプレート:Indent となる。
これより、特に断熱系（外から仕事が加えられても良い）においては テンプレート:Math なので、 テンプレート:Indent という結果が求められる。これがエントロピー増大則である。熱力学第二法則と同値なクラウジウスの不等式からこれが求められたことにより、熱力学第一法則がエネルギー保存則と対応するのになぞらえて熱力学第二法則とエントロピー増大則を対応させることもある。なお、この導出から明らかなように、熱の出入りがある系ではエントロピーが減少することも当然起こり得る。
性質
エントロピーが増加するために、熱エネルギーのすべてを他のエネルギーに変換することはできない。したがって、熱エネルギーは低品質のエネルギーとも呼ばれる。
熱力学第一法則より次のように表すことができる。 テンプレート:Indent テンプレート:Mvar : 系の内部エネルギー、テンプレート:Mvar：系が外部から得た熱、テンプレート:Mvar：系が外部に為す仕事
無限小変化は可逆過程とみなせるため、化学反応や電場・磁場等の影響がないとき、テンプレート:Math（テンプレート:Mvar：系の圧力、テンプレート:Mvar：系の体積）およびエントロピーの定義を変形した テンプレート:Math より、 テンプレート:Indent と、内部エネルギーを完全微分の形で表すことができる。ここから直ちに テンプレート:Indent が得られる。 化学反応や電場・磁場などを考慮する際にはそれぞれの仕事を考慮して以下の形になる。 テンプレート:Indent テンプレート:Mvar：化学ポテンシャル、テンプレート:Mvar：物質量、テンプレート:Mvar：外部電場、テンプレート:Mvar：分極、テンプレート:Mvar：外部磁場、テンプレート:Mvar：磁化
内部エネルギーはエントロピーや体積などの示量性状態量を変数に持つとき、完全な熱力学関数となる。
また、 テンプレート:Indent と変形できることから、エントロピーはエネルギーおよび体積を自然な引数とする完全な熱力学関数であることも分かる。特に、 テンプレート:Indent である。
リーブとイングヴァソンによる再構築
1999年にテンプレート:仮リンクとテンプレート:仮リンクは、「断熱的到達可能性」という概念を導入して熱力学を再構築した[8][9]。 「状態 テンプレート:Mvar が状態 テンプレート:Mvar から断熱操作で到達可能である」ことを <math>X \prec Y</math> と表記し、この「<math>\prec </math>」の性質からエントロピーの存在と一意性を示した。 この公理的に基礎付けされた熱力学によって、クラウジウスの方法で用いられていた「熱い・冷たい」「熱」のような直感的で無定義な概念を基礎から排除した。温度は無定義な量ではなくエントロピーから導出される。 このリーブとイングヴァソンによる再構築以来、他にも熱力学を再構築する試みがいくつか行われている[10]。
統計力学におけるエントロピー
ある巨視的状態（例えば、圧力と体積を指定した状態）に対して、それを与える微視的状態（例えば、各分子の位置および運動量）は多数存在すると考えられる。そこで仮想的にアンサンブルを考える。即ち、ある巨視的状態に対応する微視的状態の集合を考え、その各々の元が与えられた巨視的状態の下で実現する確率分布を与えることにする。
系の微視的状態（例えば量子系であればエネルギー固有状態）テンプレート:Mvar を考え、微視的状態 テンプレート:Mvar が実現される確率分布 テンプレート:Math が与えられているとき、ボルツマン定数を テンプレート:Math とした時、エントロピー テンプレート:Mvar を テンプレート:Indent で定義する[11]。これはギブズエントロピーとも呼ばれる。
すなわち、統計力学におけるエントロピーは情報理論におけるエントロピー（無次元量）と定数倍を除いて一致する[12]。
小正準集団
例えば、エネルギー テンプレート:Mvar の状態にある孤立系に対応して、小正準集団を用いるとする。 即ち、微視的状態 テンプレート:Mvar にあるときのエネルギーを テンプレート:Math としたときに、系のエネルギー テンプレート:Mvar にある微視的状態のみに有限の確率を等しく テンプレート:Indent として与える[13]（等重率の原理）。 ここで、規格化定数 テンプレート:Math は状態数と呼ばれ、系がエネルギー テンプレート:Mvar にあるときに実現しうる微視的状態の数を意味する。この時、エントロピーはボルツマンの公式としてよく知られる テンプレート:Indent で与えられる。
熱力学との整合性
このように小正準集団により与えられたエントロピーが、先に見た熱力学のエントロピーと整合していることを確認する。エネルギー テンプレート:Mvar、小正準集団によるエントロピー テンプレート:Mvar の系を、透熱壁を入れることにより二つの部分系に分離する。それぞれの系にエネルギーが テンプレート:Math と分配されるとしよう。この時、系全体の状態数、あるいはその対数であるエントロピーが最大になるように部分系のエネルギーが決定されると考えるのは自然であろう。系全体の状態数は二つの部分系の状態数の積であり、即ち系全体のエントロピー テンプレート:Mvar は二つの部分系のエントロピー テンプレート:Math の和である。この時、条件 テンプレート:Math の下で全体のエントロピーを最大とする条件を考えると、 テンプレート:Indent 即ち テンプレート:Indent となる。ここで、このエントロピーを熱力学のものと同一視すると、 テンプレート:Math が成立するのであった（部分系の体積は固定しておくことにする）。透熱壁を用いて二つの系を接触させた場合、平衡状態では当然二つの系の温度は等しくなることと、ここで確認した事実は確かに整合している。
熱力学と整合するアンサンブルは、ここで例示した小正準集団の他にも、正準分布や大正準分布がある。
情報理論におけるエントロピーとの関係
情報理論においてエントロピーは確率変数が持つ情報の量を表す尺度で、それゆえ情報量とも呼ばれる。 確率変数 テンプレート:Mvar に対し、テンプレート:Mvar のエントロピー テンプレート:Math は
- <math>H(X) = -\sum_i P_i \log P_i\,</math> (ここで テンプレート:Mvar は テンプレート:Math となる確率)
で定義されており、これは統計力学におけるエントロピーと定数倍を除いて一致する。この定式化を行ったのはクロード・シャノンである。
これは単なる数式上の一致ではなく、統計力学的な現象に対して情報理論な意味づけを与える事ができることを示唆する。情報量は確率変数 テンプレート:Mvar が数多くの値をとればとるほど大きくなる傾向があり、したがって情報量は テンプレート:Mvar の取る値の「でたらめさ」を表す尺度であると再解釈できる。よって情報量の概念は、原子や分子の「でたらめさの尺度」を表す統計力学のエントロピーと概念的にも一致する。
しかし、情報のエントロピーと物理現象の結びつきは、シャノンによる研究の時点では詳らかではなかった。この結びつきは、マクスウェルの悪魔の問題が解決される際に決定的な役割を果たした。シラードは、悪魔が分子について情報を得る事が熱力学的エントロピーの増大を招くと考えたが、これはベネットにより可逆な（エントロピーの変化ない）観測が可能である、と反例が示された。最終的な決着は1980年代にまで持ち越された。ランダウアーがランダウアーの原理として示していたことであったのだが、悪魔が繰り返し働く際に必要となる、分子についての以前の情報を忘れる事が熱力学的エントロピーの増大を招く、として、ベネットによりマクスウェルの悪魔の問題は解決された。
この原理によれば、コンピューターがデータを消去するときに熱力学的なエントロピーが発生するので、通常の（可逆でない＝非可逆な）コンピューターが計算に伴って消費するエネルギーには下限があることが知られている（ランダウアーの原理。ただし現実の一般的なコンピュータの発熱とは比べるべくもない規模である）。また理論的には可逆計算はいくらでも少ない消費エネルギーで行うことができる。
さらに テンプレート:En は統計力学におけるギブズの手法を抽象する事で、統計学・情報理論における最大エントロピー原理を打ち立てた。この結果、ギブズの手法は統計学・情報理論の統計力学への一応用例として再解釈されることになった。
統計力学と情報理論の関係は量子力学においても成立しており、量子統計力学におけるフォン・ノイマン・エントロピーは量子情報の情報量を表していると再解釈された上で、量子情報や量子計算機の研究で使われている。
ブラックホールのエントロピー
ブラックホールのエントロピーは表面積に比例する。 テンプレート:Indent ここで テンプレート:Mvar はエントロピー、テンプレート:Mvar はブラックホールの事象の地平面の面積、テンプレート:Math はディラック定数（換算プランク定数）、テンプレート:Math はボルツマン定数、テンプレート:Mvar は重力定数、テンプレート:Mvar は光速度である。
生物学におけるエントロピー
テンプレート:See also エルヴィン・シュレーディンガーは、生命をネゲントロピー（負のエントロピー）を取り入れエントロピーの増大を相殺することで定常状態を保持している開放定常系とした。負のエントロピー自体は後に否定されたが、非平衡系の学問の発展に寄与した。
脚注
参考文献
- 論文
- 書籍
- テンプレート:Cite book
- テンプレート:Cite book
- テンプレート:Cite book
- テンプレート:Cite book
- テンプレート:Cite book
- テンプレート:Cite journal
- テンプレート:Cite journal
関連項目
- 熱力学ポテンシャル（熱力学関数）
- 自由エネルギー
- カルノーサイクル
- ギブズのパラドックス
- 気体分子運動論
- 散逸構造
- ネゲントロピー
- 情報理論におけるエントロピー(情報量)
- 最大エントロピー原理
- ルドルフ・クラウジウス
