數學 上，廣義正交群 或稱偽正交群 、不定正交群 O(p ,q )是所有保持n=p+q維實向量空間 上的符號為 (p,q)的非退化對稱雙線性形式 的線性變換 組成的李群 。這個群的維數 是n(n−1)/2。
廣義特殊正交群 SO(p ,q )是O(p ,q )中所有行列式 為1的元素構成的子群 。
度量 的符號（p 、q 分別為正負特徵值 的個數）在同構的意義下決定該群；交換p 和q 相當於度量改變慣性指數，所以給出同樣的群。如果p 或q 等於0，那麼同構於普通正交群 O(n )。我們假設下文中p 和q 均是正整數。
群O(p ,q )定義在實 向量空間上。對於複 空間，所有群O(p ,q ; C )都同構於通常正交群O(p + q ; C )，因為複共軛變換
z
j
↦
i
z
j
{\displaystyle z_{j}\mapsto iz_{j}}
和經典正交群O(n )一樣，O(p ,q )能表示為矩陣 群。R p ,q 對角矩陣 給出標準內積：
η
=
d
i
a
g
(
1
,
⋯
,
1
⏟
p
,
−
1
,
⋯
,
−
1
⏟
q
)
.
{\displaystyle \eta =\mathrm {diag} (\underbrace {1,\cdots ,1} _{p},\underbrace {-1,\cdots ,-1} _{q}).\,}
作為二次型，
Q
(
x
1
,
…
,
x
n
)
=
x
1
2
+
⋯
+
x
p
2
−
x
p
+
1
2
−
⋯
−
x
p
+
q
2
.
{\displaystyle Q(x_{1},\dots ,x_{n})=x_{1}^{2}+\cdots +x_{p}^{2}-x_{p+1}^{2}-\cdots -x_{p+q}^{2}.\,}
群O(p ,q )是由n ×n 矩陣M （這裏n = p +q ）使得
M
T
η
M
=
η
{\displaystyle M^{T}\eta M=\eta }
Q
(
M
v
)
=
Q
(
v
)
{\displaystyle Q(Mv)=Q(v)}
這裏M T M 的轉秩。容易驗證所有這樣的矩陣構成一個群。M 的逆滿足
M
−
1
=
η
−
1
M
T
η
.
{\displaystyle M^{-1}=\eta ^{-1}M^{T}\eta .\,}
我們得到一個同構群。事實上將η換成任意p 個正特徵值q 個負特徵值的對稱矩陣 （這樣的矩陣必是非奇異 的），等價的，任何符號為 (p ,q )的二次型。對角化這個矩陣給出此群共軛於標準群O(p ,q )。
O(p ,q )和SO(p ,q )都不是連通 的，分別有4個和2個分支 。
π
0
(
O
(
p
,
q
)
)
≅
C
2
×
C
2
{\displaystyle \pi _{0}(O(p,q))\cong C_{2}\times C_{2}}
克萊因四元群 ，每個分支保持或改變p 維正定或q 維負定子空間的定向。特殊正交群有分支
π
0
(
S
O
(
p
,
q
)
)
=
{
(
1
,
1
)
,
(
−
1
,
−
1
)
}
{\displaystyle \pi _{0}(SO(p,q))=\{(1,1),(-1,-1)\}}
O(p ,q )的單位分支 常記作SO+ (p ,q )，能和SO(p ,q )中同時保持兩個定向的元素的集合等價起來。
群O(p ,q )也不是緊 ，但包含緊子群O(p )和O(q )，分別作用在兩個確定子空間上。事實上，O(p )×O(q )是O(p ,q )的極大緊子群 。而
S
(
O
(
p
)
×
O
(
q
)
)
{\displaystyle S(O(p)\times O(q))}
p ,q )的極大緊子群。同樣，SO(p )×SO(q )是SO+ (p , q )的極大緊子群。從而在同論的意義上來說，這些群是（特殊）正交群的積，這樣代數拓撲不變量都可以計算出來。
特別的，SO+ (p , q )的基本群 是分支基本群的乘積，
π
1
(
SO
+
(
p
,
q
)
)
=
π
1
(
SO
(
p
)
)
×
π
1
(
SO
(
q
)
)
{\displaystyle \pi _{1}({\mbox{SO}}^{+}(p,q))=\pi _{1}({\mbox{SO}}(p))\times \pi _{1}({\mbox{SO}}(q))\,\!}
π
1
(
SO
+
(
p
,
q
)
)
{\displaystyle \pi _{1}({\mbox{SO}}^{+}(p,q))}
p
=
1
{\displaystyle p=1}
p
=
2
{\displaystyle p=2}
p
≥
3
{\displaystyle p\geq 3}
q
=
1
{\displaystyle q=1}
{1}
Z
{\displaystyle \mathbf {Z} }
Z
2
{\displaystyle \mathbf {Z} _{2}}
q
=
2
{\displaystyle q=2}
Z
{\displaystyle \mathbf {Z} }
Z
×
Z
{\displaystyle \mathbf {Z} \times \mathbf {Z} }
Z
×
Z
2
{\displaystyle \mathbf {Z} \times \mathbf {Z} _{2}}
q
≥
3
{\displaystyle q\geq 3}
Z
2
{\displaystyle \mathbf {Z} _{2}}
Z
2
×
Z
{\displaystyle \mathbf {Z} _{2}\times \mathbf {Z} }
Z
2
×
Z
2
{\displaystyle \mathbf {Z} _{2}\times \mathbf {Z} _{2}}
V. L. Popov, Orthogonal group , Hazewinkel, Michiel (編), 数学百科全书 , Springer , 2001, ISBN 978-1-55608-010-4 Anthony Knapp, Lie Groups Beyond an Introduction , Second Edition, Progress in Mathematics, vol. 140, Birkhäuser, Boston, 2002. ISBN 0-8176-4259-5 . (372頁有不定正交群的描述) Joseph A. Wolf, Spaces of constant curvature , (1967) 335頁。
