某一植物的雌雄兩性機能正常，但不能進行自花受精或同一品系內異株花粉受精的現象。廣泛存在於十字花科、禾本科、豆科、茄科、菊科、薔薇科、石蒜科、罌粟科等80多個科的3 000多種植物，其中以十字花科植物最為普遍。自交不親和性是植物在長期進化過程中形成的有利於異花授粉，從而保持高度雜合性的一種生殖機制。在植物育種中，特別是在十字花科蔬菜作物中，可利用這種特性選育遺傳上穩定的自交不親和系，從而不用去雄就能生產雜交種子，以利用雜種優勢。
基本類型 一般可分為兩類：①配子體型自交不親和性。即花粉在柱頭上發芽後可侵入柱頭，並能在花柱組織中延伸一段，此後就受到抑制。花粉管與雌性因素的抑制關系發生在單倍體配子體（即卵細胞與精細胞）之間。常見於豆科、茄科和禾本科的一些植物。②孢子體型自交不親和性。即花粉落在柱頭上不能正常發芽，或發芽後在柱頭乳突細胞上纏繞而無法侵入柱頭。由於這種不親和關系發生在花粉管與柱頭乳突細胞的孢子體之間，花粉的行為決定於二倍體親本的基因型，因而稱為孢子體型自交不親和性，多見於十字花科和菊科植物。
遺傳控制 不論配子體型還是孢子體型，自交不親和性在遺傳上都是由特定的復等位基因控制的。二倍體植物在一個位點上由復等位基因控制的自交不親和性是最常見的遺傳模式。後來陸續發現禾本科植物中還有由兩個位點上復等位基因控制的配子體型自交不親和性，在蘿卜中也找到有兩組等位基因。在芝麻菜(Eruca sativa)上至少有三組等位基因共同控制孢子體型自交不親和性的遺傳。
生理機制 一些被子植物（特別是十字花科植物）成熟柱頭的乳突細胞表面有一層發育完全的蛋白質表膜，具有柱頭接受部位的作用。當花粉落在柱頭上後，幾秒鐘內花粉粒的外壁便釋放出外壁蛋白質，與柱頭乳突細胞的蛋白質表膜相互作用。如果二者是親和的，幾分鐘內即由花粉內壁釋放出角質酶前體，並被柱頭蛋白質表膜所活化，從而溶解下面的角質層，使花粉管得以侵入柱頭表面，表現為接受反應。如果二者是不親和的，柱頭乳突細胞隨即產生胼胝質，阻止花粉管的侵入，表現為拒絕反應。幼嫩柱頭的表面還沒有形成這種特殊蛋白質，或隻形成不連續的蛋白質表膜，因而可以采用蕾期授粉得到自交種子。
育種應用 20世紀40～50年代，世界各國開始采用自交不親和系配制雜種，應用於甘藍、大白菜、蘿卜等蔬菜作物的生產。70年代中期以來，中國在甘藍、大白菜生產上也應用這種技術，並取得瞭顯著增產效果。此外，還用自交親和性強的甘藍型油菜育成一些自交不親和系，用以配制雜種。
選育自交不親和系的方法，在應用於甘藍、大白菜、小白菜等自交不親和性強的植物時，首先是通過花期自交，篩選出具有自交不親和性的植株，同時采用蕾期授粉的方法保持自交不親和性；然後再由自交不親和植株產生的後代進行兄妹交。如果連續套袋自交和兄妹交的親和指數分別小於1和1～2，且在不同世代和不同條件下都表現一致，則由自交不親和植株所繁殖的後代群體，就是自交不親和系。甘藍型和芥菜型油菜等自交親和性強的植物也可通過種間雜交或理化誘變途徑，使其轉變為自交不親和的植物，進而選育自交不親和系。
自交不親和系育成後，通過與各種自交系測交，找出強優勢組合，從中選出熟期適當、產量高、抗性強的優良雜交種。配制雜種時，除正規的兩系雜種外，還可根據不同作物的特點和具體情況采取適當措施。