NPU在智能手機上驅動AI服務

NPU在智能手機上驅動AI服務

這是AI引起人們關注的時代，被稱為AI時代。去年10月，Gartner宣布了10種有前途的技術，其中有4種與AI相關。

這是因為AI對世界具有巨大的影響。普華永道（PwC）預測了人工智能在2030年的全球影響中的經濟影響。根據普華永道的預測，到2030年，人工智能將產生15.7萬億美元的連鎖反應。

這相當于美國的GDP，xxx的GDP和日本的GDP的四倍。這是韓國GDP的10倍以上。因此，人工智能有望影響幾乎所有行業，并且是領導第四次工業xxx的一項主要技術。

這些AI經常跟隨云計算。許多人認為AI需要大量的計算資源。您需要具有高端硬件（如云）的基礎架構。

因此，云服務提供商正在積極推廣服務，以為沒有高端硬件基礎架構的SMB租用這些基礎架構。這稱為人工智能即服務（AIaaS），它允許中小型企業支付和接收必要的資源。幾乎所有云服務，包括Amazon Web Services（AWS），Microsoft（Azure），Google Cloud和Naver Business Platform（NBP），都提供AIaaS。

無法在類似云的環境中提供所有AI服務

但是，這里出現一個問題。AI的實現和操作是否僅在具有高端硬件的環境中可行？例如，在智能手機上使用一些AI服務。

主流智能手機均配備了語音AI。并且有一個語音命令來執行它。對于Samsung Bixby，如果您說“ high bixby”，則它會同時對揚聲器和聲音做出反應。或考慮基于AI的生物特征認證，例如面部識別或虹膜識別。

當然，這些功能只能在智能手機上運行，??而不能在云中運行。想一想。如果智能電話的語音命令在中央服務器中操作，則智能電話必須作為中央服務器操作所有周圍的語音。這實際上是不可能的。并可能導致網絡通信失敗。這是因為大量的網絡通信流向中央服務器。另外，存在隱私問題的風險。這是因為與私人語音相關的內容被發送到中央服務器。

考慮面部識別。中央服務器必須驗證智能手機通過網絡識別的所有面部信息。這也會使服務器過載。

NPU，智能手機專用AI芯片

AI通常需要高規格。但這并不一定無處不在。因此，趨勢是在設備本身上實現和操作AI。這可以從Gartner的10種有前途的技術中得出。

在十大有前途的技術中，有“ Empowered Edge”和“ Autonomous Things”。增強邊緣指的是一種技術趨勢，該趨勢使用計算資源在設備本身而不是云中提供服務。AI服務也與此相對應。自動化設備是將AI的自動化設備引入設備的技術趨勢。人工智能可以在云中實現。但是通過增強的邊緣，可以在設備本身內完成此操作。

這種趨勢在智能手機中尤為突出，因為智能手機自身提供了一些AI服務。這也與AI專用芯片的出現有關。AI芯片是針對AI實現進行了優化的半導體。

AI在并行處理環境中有效。這是因為要并行計算大量因子才能得出結果。因此，AI驅動在現有CPU中效率低下。這是因為CPU收集了計算能力并對其進行串行處理。AI的因數需要較少的計算。但是，CPU是浪費的，因為它在單個因素上使用了很多操作。另外，還有很多事情要做。

因此，在AI中，通過將計算量分成幾個來并行進行半導體處理是有效的。圖形處理單元（GPU）扮演了這個角色。

然而，近來，已經研究了更有效的半導體，并且出現了AI優化的神經形態處理器。嚴格來說，它是針對“深度學習”進行了優化的，這引起了AI的關注。深度學習是一種基于人類神經網絡建模的機器學習算法，類似于深度學習，神經形態處理器半導體也基于神經網絡建模。因此，僅針對深度學習進行了優化。

最近，神經形態處理器被應用于智能手機處理器（AP）。神經處理器單元（NPU）是智能手機專用的AI芯片，通過將NPU安裝在智能手機中，可以在智能手機中實現AI。嚴格來說，提高了AI驅動效率。三星電子比較了采用NPU前后的模型，就AI服務計算效率而言，該模型在應用后的性能比應用前高7倍。

NPU?不是實現AI的關鍵

有一個警告。NPU并不全面。NPU僅用作加速器，以增強智能手機中AI所需的計算。NPU的存在并不意味著可以在智能手機中有效地實現所有AI服務。

人工智能可以分為學習和推理。學習是一個分析大量數據并需要高速數據處理設備的過程。必須包含高性能硬件。因此，幾乎不可能在智能手機上實現AI學習。

推理是基于學習驅動AI的動力。智能手機中AI服務的實現屬于推理領域。它基于學習而工作。但是，所需的性能取決于計算中考慮了多少因素以及計算的精確度。

以人臉驗證為例。臉部驗證只需要驗證特定用戶。因此，很容易實現。另一方面，面部識別必須在眾多用戶中找到相似的人。由于需要分析的數據量很大，因此計算量很大，準確性也很低。前者可以在智能手機中實現，后者很難實現。

NPU因在智能手機中實現AI服務而有望引起關注。結果，競爭將變得更加激烈。預計以韓國，美國和中國為中心的NPU競爭將會很激烈。

NPU遠遠xxx于美國。高通公司是一家xxx的公司。高通公司于4日推出了僅用于智能手機的處理器Snapdragon 865。第五個AI專用AP。在AI駕駛中，性能為每秒15萬億次操作（TOPS）。顯示了15TOPS性能。

韓國公司三星電子正在追趕此事。三星推出了智能手機專用處理器Exynos 990。在AI中，性能超過10TOP。