算法偏見描述了計算機系統中的系統性和可重復的錯誤，這些錯誤造成了不公平的結果，例如以不同于算法預期功能的方式將一個類別置于另一個類別之上的特權。偏見可能來自許多因素，包括但不限于算法的設計或與數據編碼、收集、選擇或用于訓練算法的方式有關的非故意或未預料的使用或決定。例如，在搜索引擎結果和社交媒體平臺中已經觀察到了算法的偏見。這種偏見可能會產生影響，從無意中侵犯隱私到強化種族、性別、性和民族的社會偏見。對算法偏見的研究最關注的是反映系統和不公平歧視的算法。這種偏見最近才在法律框架中得到解決，如歐盟的《通用數據保護條例》（2018年）和擬議的《人工智能法》（2021年）。隨著算法擴大其組織社會、政治、機構和行為的能力，社會學家已經開始關注未預料到的數據輸出和操縱可能影響物理世界的方式。因為算法通常被認為是中立和無偏見的，它們可以不準確地投射出比人類專業知識更大的權威（部分是由于自動化偏見的心理現象），在某些情況下，對算法的依賴可以取代人類對其結果的責任。由于預先存在的文化、社會或機構的期望，偏見可能會進入算法系統；由于其設計的技術限制；或者由于在未預料到的情況下被使用，或者被那些在軟件最初設計時沒有考慮到的受眾使用。從選舉結果到網上仇恨言論的傳播，算法偏見已經被引用到各種案例中。它還出現在刑事司法、醫療保健和招聘中，加劇了現有的種族、社會經濟和性別偏見。面部識別技術相對無法準確識別深色皮膚的臉，這與黑人男子多次被錯誤xxx有關，這個問題源于不平衡的數據集。由于算法的專有性，在理解、研究和發現算法偏見方面的問題一直存在，這些算法通常被視為商業機密。即使提供了完全的透明度，某些算法的復雜性也對理解其功能構成了障礙。此外，算法可能會發生變化，或以無法預料的方式對輸入或輸出作出反應，或為分析而輕易復制。在許多情況下，即使在一個單一的網站或應用程序中，也沒有單一的算法可供研究，而是由許多相互關聯的程序和數據輸入組成的網絡，甚至在同一服務的用戶之間。

算法很難定義，但一般可以理解為確定程序如何讀取、收集、處理和分析數據以產生輸出的指令列表。關于嚴格的技術介紹，見算法。計算機硬件的進步導致了處理、存儲和傳輸數據的能力增強。這反過來又促進了機器學習和人工智能等技術的設計和采用。通過分析和處理數據，算法成為搜索引擎、社交媒體網站、推薦引擎、在線零售、在線廣告等的骨干。當代社會科學家關注嵌入硬件和軟件應用的算法過程，因為它們具有政治和社會影響，并質疑算法中立性的基本假設。

算法偏見這一術語描述了系統性和可重復的錯誤，這些錯誤造成了不公平的結果，例如使一個任意的用戶群體比其他用戶享有特權。例如，一個信用評分算法可以拒絕xxx，但并不公平，如果它一直在權衡相關的財務標準。如果該算法向一組用戶推薦xxx，但根據不相關的標準拒絕向另一組幾乎相同的用戶提供xxx，并且如果這種行為可以在多次發生中重復，那么一個算法可以被描述為有偏見。這種偏見可能是有意的，也可能是無意的（例如，它可能來自于一個以前做過該算法現在要做的工作的工人所獲得的有偏見的數據）。

偏見可以通過幾種方式引入到算法中。在收集數據集的過程中，數據可能被收集、數字化、調整，并根據人類設計的編目標準輸入數據庫。接下來，程序員為程序如何評估和分類這些數據分配優先級，或稱層次結構。這需要人類決定如何對數據進行分類，以及哪些數據被包括或丟棄。一些算法根據人類的選擇來收集自己的數據。