雑記号

1655 年、オックスフォードの数学者ジョン・ウォリスは円錐曲線についての本のなかで、それまで誰も使っていなかった横倒しの 8 を書きました——無限大 ∞ の誕生です。このページで扱う「雑記号」、つまり LaTeX の \infty・\partial・\nabla・\ell・\hbar・\dagger のように、ギリシャ文字にも演算子にも関係子にも矢印にも属さない記号たちは、どれもこうして誰かが一度だけ発明し、そのまま数学に居ついたものです。以下では実務でよく打つものを由来ごと・用途ごとにたどりながら、どれが LaTeX 標準でどれに amssymb が要るのか、そして \ell と l、\prime とアポストロフィのような取り違えをどう避けるかまで見ていきます。

本文に \infty と書くと ! Missing $ inserted になる理由

この章の記号はほぼすべて 数式モード専用 の命令だからです。地の文にそのまま \infty と打つと、LaTeX は ! Missing $ inserted と言って勝手に $ を補おうとします。TeX にとって ∞ は絵ではなく「普通記号（ordinary）」という組版上の分類を持つ原子で、その分類にもとづく前後の空きの計算が数式モードの外では定義されていないためです。だから $\infty$ のように囲んでから使います。例外は本文用にあつらえられた記号で、節記号 \S（§）・段落記号 \P（¶）・\copyright（©）・短剣符の \dag・\ddag はテキストモードでそのまま書けます。

\usepackage{amssymb}   % needed for \varnothing, \square, \measuredangle, \circledR
% ...
The volume $V$ diverges to $\infty$, and the gradient is $\nabla f$.
\[
  \frac{\partial f}{\partial x}, \qquad \angle ABC = 90^\circ, \qquad \hbar\omega
\]

もう一つの分かれ目が パッケージの約束 です。\infty・\partial・\nabla・\angle・\ell・\hbar・\Re・\Im・\wp・\aleph・\surd・\prime・\dagger・\ddagger・\forall・\exists・\neg・\top・\bot・\emptyset・\flat・\sharp・\natural は すべて LaTeX 標準 で、追加パッケージは要りません。一方 \varnothing（∅ の丸い異体字）・\square（□）・\measuredangle（∡）・\circledR（®）・ヘブライ文字の \beth（ℶ）などは AMS の追加分で、プリアンブルに \usepackage{amssymb} を書き忘れると ! Undefined control sequence で止まります。このエラーが出たら、まず疑うのは綴りではなくパッケージです。

∞・∂・∇・∠ ——解析の記号はどこから来たか

いずれも一人の書き手が持ち込み、後の世代が採用した記号です。\infty（∞）はウォリスが 1655 年の『De sectionibus conicis』で使ったのが最初で、なぜあの形にしたのかは本人が説明を残していません。\partial（∂）——丸みを帯びた d ——は 1786 年にルジャンドルが偏微分の記法として用いたものの、本人がのちに手を引き、1841 年にヤコビが復活させて定着しました。もっとも面白いのは \nabla（∇）です。この形に「ナブラ」という名前を与えたのは百科事典編纂者 ウィリアム・ロバートソン・スミス で、1870 年にピーター・ガスリー・テイトへ送った手紙のなかで、逆さのデルタがフェニキアの竪琴（ギリシャ語 νάβλα）に似ていると書き送りました。テイトとマクスウェルは私信のなかで半ば冗談としてこの呼び名を使い続け、そのまま世界中の教科書に載ってしまったわけです。

実務では、この四つは字形の似た別記号との取り違えがそのまま誤植になります。\nabla（∇）と大文字デルタ \Delta（Δ）は上下が逆なだけなので、勾配のつもりで Δ を打っても組版は何も文句を言いません。\partial は必ず命令として書き、イタリックの d（d）で代用しないこと——全微分と偏微分を読者が区別できなくなります。\infty は単独で使うより \lim_{n \to \infty} や \int_0^{\infty} のように添え字の中で使うことのほうが多く、その位置では自動的に小さく組まれます。\surd（√）は根号の「チェック」部分だけの記号で、横棒が伸びません。実際に平方根を組むなら引数を取る \sqrt{x} を使ってください。\angle（∠）は標準ですが、測定角 \measuredangle（∡）と球面角 \sphericalangle（∢）は amssymb が要ります。

ℓ・ℏ・ℜ・℘・ℵ ——文字が記号に昇格するとき

これらはもともと文字で、書体を変えたり線を足したりした結果、独立した意味を背負うようになった記号です。\ell（ℓ）は筆記体の小文字 l で、長さ・直線・数列の添え字などに使われます。\hbar（ℏ）は h に横線を引いた形で、換算プランク定数 h/2π を表します——「線を一本足しただけで別の定数になる」という、物理でよくある命名法の典型です。\wp（℘）は花文字の p でワイエルシュトラスの楕円関数を、\aleph（ℵ）はヘブライ文字アレフで無限基数を表します。\Re・\Im は複素数の実部・虚部で、出力はローマン体の R・I ではなく フラクトゥール体の ℜ・ℑ です。すべて LaTeX 標準で、amssymb は要りません。

ここで実務上の判断が二つあります。第一に、フラクトゥール体の ℜ・ℑ は現代の版面ではやや古風で、読者が R や I と読み違えることもあります。立体の「Re」「Im」を作用素として組むなら amsmath の \operatorname{Re}・\operatorname{Im} を使うのが今の定石で、前後の空きも作用素として正しく取られます。第二に、\aleph は標準にありますが、アレフに続くヘブライ文字 ベート ℶ・ギメル ℷ・ダレット ℸ（\beth・\gimel・\daleth）は amssymb が必要です。集合論の論文で ℶ を打って ! Undefined control sequence が出るのは、たいていこれが原因です。

∀ ∃ ¬ ⊤ ⊥ ∅ ——量化子・否定・空集合

論理で使う記号は、\forall（∀）・\exists（∃）・\neg（¬, 別名 \lnot）・\top（⊤）・\bot（⊥）がすべて LaTeX 標準です。∀ は英語の All を、∃ は Exists を裏返した形で、記号そのものが由来を語っています。ここで一つ知っておくと得をするのが \bot と \perp の違いです。字形はどちらも ⊥ ですが、\bot は普通記号（ordinary）、\perp は関係子（relation） として登録されているため、前後に入る空きが違います。「偽・最小元」の意味で書くなら \bot、「直交する」という関係を書くなら AB \perp CD のように \perp を選んでください。同じ理由で、\top は最大元・真の意味で使います。なお否定の存在量化 \nexists（∄）だけは amssymb が要ります。

空集合には二つの書き方があります。標準の \emptyset は斜線を引いた楕円で、Computer Modern では潰れた 0 のように見えることがあります。amssymb の \varnothing はまるい円に斜線を引いた字形で、こちらのほうが「ゼロではない」と一目で分かるため、多くの著者が好みます。どちらを選んでも構いませんが、一つの文書のなかで混ぜないこと。混在は査読で必ず指摘されます。\varnothing を使うなら \usepackage{amssymb} を忘れずに——忘れると ! Undefined control sequence です。量化子・集合演算の全体像は集合・論理記号のページで扱います。

† ‡ と、証明を閉じる ∎

短剣符 \dagger（†）と二重短剣符 \ddagger（‡）はどちらも LaTeX 標準で、数式モードの記号です。本文で脚注記号として使うなら、テキストモード用の \dag・\ddag があります。数式のなかで † が担う役割は脚注ではなく 随伴（エルミート共役） で、A^{\dagger} は「A ダガー」と読みます。量子力学の生成演算子 a^{\dagger} もこれです。上付きにするので、\dagger を単独で打つ場面はほとんどありません。

証明の終わりに置く白抜きの四角 ∎ は「墓石（tombstone）」あるいは「ハルモス記号」と呼ばれます。矢印のページでは、これを数学に持ち込んだのがポール・ハルモスだという話に触れました。もう少し先があります。ハルモス自身は回想録『I Want to Be a Mathematician』で、この記号は自分の発明ではなく、数学とは無関係の一般誌で記事の終わりを示すために使われていたのを見て借りてきたのだ、と書いています。彼が数学の文脈で最初に使ったのは 1950 年のことでした。LaTeX で書くなら amssymb の \square（□）か \blacksquare（■）ですが、実際には amsthm の proof 環境を使えば末尾に自動で入ります。位置を自分で決めたいときは \qedhere を、記号そのものを差し替えたいときは \renewcommand{\qedsymbol}{...} を使います。

♭ ♯ ♮ を出す——\sharp と # はまったく別物

臨時記号の三つ、フラット \flat（♭）・シャープ \sharp（♯）・ナチュラル \natural（♮）はいずれも LaTeX 標準の数式記号です。本文で音名を書くときも数式モードに入れて B$\flat$ あるいは $B\flat$ とします。ここで事故が起きやすいのが # です。TeX にとって # はマクロの引数を指すための特殊文字なので、本文にそのまま書くとエラーになり、記号として出したいときは \# とエスケープしなければなりません。そして \# が出すのは番号記号（ハッシュ）であって、音楽のシャープ ♯ ではありません。二つは字形も傾きも違う別の文字です。C シャープは $C\sharp$、プログラミング言語の C# は C\# と書き分けてください。楽譜そのものを組むのは別の話で、そこでは専用の組版システムを使います。

紛らわしい三組——\ell と l、\prime と '、\Re と R

まず \ell（ℓ）と数式イタリックの l です。多くの数式書体でイタリックの小文字 l は数字の 1 や縦棒 | とほとんど見分けがつかず、それを避けるために筆記体の ℓ が用意されました。長さ・直線・添え字のように「l と読ませたい量」には \ell を選ぶのが安全です。ただし 一つの文書で \ell と l を意味の違う二つの量に使い分ける のは最悪の選択で、読者は必ず取り違えます。どちらか一方に決めてください。同じ理由で、アクセントを載せる i・j には点のない \imath（ı）・\jmath（ȷ）を土台に使います。\hat{i} では点とハットが重なるので、\hat{\imath} と書きます。

次に \prime（′）とアポストロフィです。数式モードの ' は ^{\prime} の短縮形なので、f' と f^{\prime} はまったく同じものを出します。\prime を裸で書くと上付き用の小さな字形が基準線に置かれて不格好になるため、単独で使う場面はほとんどありません。TeX は連続するプライムと、その直後に続く ^ をまとめて処理してくれるので、x'^2 は問題なく組めます。壊れるのは順序を逆にしたときで、x^2' は x^2^{\prime} と解釈されて ! Double superscript. で止まります。この場合は {x^2}' や x^{2\prime} のように意図を明示してください。なお本文中の ' は右シングルクォートであってプライムではありません。

三つ目は \Re と R です。\Re が出すのはフラクトゥール体の ℜ で、実数全体の集合 ℝ（amssymb／amsfonts の \mathbb{R}）とはまったく別の記号です。「複素数 z の実部」なら \Re z または \operatorname{Re} z、「z は実数」なら z \in \mathbb{R}。この二つを混ぜると読者は数行にわたって意味を取り違えます。\Im と \mathbb{I} についても同様です。

% x'^2 is fine; x^2' raises ! Double superscript.
\[ f'(x), \quad f''(x), \quad x'^2, \quad {x^2}' \]
% real part vs the set of real numbers
\[ \Re z, \qquad \operatorname{Re} z, \qquad z \in \mathbb{R} \]
% dotless bases keep the accent clear
\[ \hat{\imath}, \quad \hat{\jmath}, \quad \ell = 2\pi r \]

このページに載っていない記号で迷ったら、Scott Pakin による The Comprehensive LaTeX Symbol List（ctan.org/pkg/comprehensive）が最終的な答えです。20,000 を超える記号（TeX Live 2024 同梱版で 20,323 個）を、それを出すコマンドとパッケージつきで一覧にした資料で、「この字形をどう打つのか」という問いにはたいていここで決着がつきます。