TinyML是深度學習和人工智能領域的最新技術。它帶來了在隨處可見的微控制器（幾乎是最小的電子芯片）中運行機器學習模型的能力。

微控制器是我們每天使用的許多設備的大腦。從電視遙控器到電梯再到智能揚聲器，它們無處不在。可以發射遙測數據的多個傳感器連接到微控制器。執行器，例如開關和電動機，也連接到同一微控制器。它帶有嵌入式代碼，可以從傳感器獲取數據并控制執行器。

TinyML的興起標志著終端用戶消費人工智能方式的重大轉變。來自硬件和軟件行業的供應商正在合作將人工智能模型引入微控制器。

在電子設備中運行復雜的深度學習模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯網連接。它在同一個微控制器上本地運行，該微控制器具有管理連接的傳感器和執行器的邏輯。

TinyML的演變

第1階段-云中的AI

在AI的早期，機器學習模型是在云中訓練和托管的。運行AI所需的強大計算能力使云成為理想的選擇。開發人員和數據科學家利用高端CPU和GPU訓練模型，然后托管它們以進行推理。每個消耗AI的應用程序都與云對話。該應用程序將與微控制器通信以管理傳感器和執行器。

第二階段-邊緣人工智能

雖然云仍然是人工智能的邏輯家園，但它確實在消耗深度學習模型的同時引入了延遲。想象一下，每次與智能揚聲器通話時，請求都會被云處理。往返行程中的延誤扼殺了體驗。其他場景，如工業自動化、智能醫療、聯網車輛等，都要求人工智能模型在本地運行。

邊緣計算（云和本地物聯網設備之間的管道）已成為在本地托管AI模型的理想選擇。在邊緣運行的AI不會遭受在云中運行相同AI所帶來的延遲。

但是，鑒于邊緣資源有限，培訓和再培訓模型仍然需要云。可以在邊緣托管經過訓練的模型，以進行推理（使用機器學習模型的過程），而不用于訓練。因此，在云中訓練模型并將其部署在邊緣變得很普遍。這種方法提供了兩全其美的優勢-用于訓練的強大計算環境（云）和用于推理的低延遲托管環境（邊緣）。

在邊緣使用AI時，微控制器從連接的傳感器獲取遙測，然后將遙測發送到本地部署的模型以通過應用程序進行推理。然后，模型返回輸入數據的預測或分類，用于確定后續步驟。

階段3-微控制器中的AI

雖然在許多情況下在邊緣運行AI是一個完美的解決方案，但是在某些情況下，部署邊緣計算層是不切實際的。例如，將諸如智能揚聲器和遙控器之類的消費類設備連接到邊緣是過大的選擇。這增加了設備的總擁有成本和供應商的支持成本。但是這些消費類設備是注入AI功能的溫床。

在工業場景中，預測性維護已成為設備的重要組成部分。昂貴的機械設備需要嵌入能夠實時檢測異常的機器學習模型，以提供預測性維護。通過主動檢測故障，客戶可以節省數百萬美元的維護成本。

直接在微控制器中嵌入AI成為消費和工業物聯網場景的關鍵。這種方法不依賴于外部應用程序，邊緣計算層或云。AI模型與嵌入到微控制器的嵌入式代碼一起運行。它成為提供無與倫比的速度的整體邏輯的組成部分。

傳統上，機器學習模型始終部署在資源豐富的環境中。由于TinyML模型可以嵌入微控制器中，因此它們不會占用大量資源。這種方法是將AI注入物聯網設備的最有效，最具成本效益的方法。

TinyML不斷發展的生態系統

盡管TinyML尚處于起步階段，但正在形成一個充滿活力的生態系統。電子芯片和物聯網套件制造商（例如Adafruit，聯發科技，Arduino和STM）正在其設備中支持TinyML。微軟的Azure Sphere（安全微控制器）也可以運行TinyML模型。TensorFlow Lite是流行的開源深度學習框架的變體，可以移植到支持的設備上。另一個開源機器學習編譯器和運行時Apache TVM也可以用于將模型轉換為TinyML。

Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo等新興的AutoML和TinyML平臺正在構建工具和開發環境，以簡化針對微控制器的訓練和優化模型的過程。

TinyML使AI無處不在，并可供消費者使用。它將為我們每天使用的數百萬種設備帶來智能。