人工智能（AI）跟呆板进修（ML）技巧不只正在疾速开展，还逐步被翻新性地利用于低功耗的微把持器（MCU）中，从而实现边沿AI/ML处理计划。这些MCU是很多嵌入式体系弗成或缺的一局部，凭仗其本钱效益、高能效以及牢靠的机能，当初可能支撑AI/ML利用。这种集成化在可穿着电子产物、智能家居装备跟产业主动化等利用范畴中，从AI/ML功效中取得的效益尤为明显。具有AI优化功效的MCU跟TinyML的崛起（专一于在小型、低功耗装备上运转ML模子），表现了这一范畴的提高。TinyML对直接在装备上实现智能决议、增进及时处置跟增加耽误至关主要，特殊是在衔接无限或无衔接的情况中。本文援用地点：TinyML是指在小型、低功耗装备上利用呆板进修模子，尤其是在微把持器（MCU）平台上，这些MCU经由优化，能够在装备无限的资本系统内运转。这使得边沿装备可能实现智能决议，支撑及时处置并增加耽误。量化（Quantization）跟剪枝（Pruning）等技巧用于减小模子巨细并进步推理速率。量化经由过程下降模子权重的精度，明显增加内存应用而多少乎不影响正确性；剪枝则经由过程去除不太主要的神经元，进一步减小模子范围并晋升耽误机能。这些方式对在资本无限的装备上安排ML模子至关主要。PyTorch跟TensorFlow Lite都是实现呆板进修模子的主流框架。PyTorch是一个开源呆板进修库，被普遍用于人工智能利用的开辟，包含能够安排在微把持器上的利用顺序。PyTorch供给了用于呆板进修的东西跟库，包含盘算机视觉跟天然言语处置，可用于低功耗跟小尺寸装备。TensorFlow Lite for Microcontroller（TFLM）可能在十分受限的MCU类装备上运转存在Flatbuffer转换功效的TF Lite模子。这增加了模子的巨细，并优化了它在MCU上的推理。另一个主要的东西是来自ARM的CMSIS-NN库，它为Cortex-M处置器供给了优化的神经收集内核来运转TFLM模子。CMSIS-NN库进步了机能并增加了内存占用，使其更轻易在基于ARM的MCU上运转ML模子。别的，一些MCU还装备了公用的AI/ML硬件减速器，如Silicon Labs（芯科科技）的EFM32无线SoC跟MCU，能够明显进步ML模子的机能，使更庞杂的利用顺序可能在这些装备上更快、更高效地运转。人工智能减速器善于并行化义务，如矩阵乘法、卷积跟图形处置。经由过程应用多样化的并行性，它们能够一次履行大批的盘算。这使得人工智能任务负载的速率年夜年夜进步，同时坚持低功耗。这些减速器还加强了内存拜访形式，增加了数据传输开支，主CPU—CortexM能够进入低功耗就寝形式，以节俭更多的能量或治理额定的义务。经由过程使数据更濒临盘算单位，它们增加了等候时光。其成果是加强了机能、下降了功耗跟耽误。现实利用TinyML的现实利用是多种多样且有影响力的。一个值得留神的示例是音频跟视觉叫醒词，当说出特定的要害字或在图像中检测到或人时，装备会触动员作。这项技巧被用于智能扬声器跟保险摄像头，支撑它们在辨认到叫醒词或检测活动时激活。另一种利用是产业情况中的猜测性保护。工场装备上的传感器连续监测振动跟温度等参数，可应用TinyML模子检测来异样并在毛病产生之前猜测保护需要，这有助于增加停机时光跟保护本钱。手势跟运动辨认是TinyML的另一种令人高兴的利用。装备减速度计跟陀螺仪的可穿着装备能够监测身材运动，如走路、跑步或特定手势。这些装备应用TinyML模子及时剖析传感器数据，为健身追踪或医疗诊断供给有代价的看法。在农业范畴，TinyML被用于情况监测。智能农业体系剖析泥土湿度跟气象前提，以优化浇灌，进步作物产量跟资本效力。TinyML还加强了安康监测功效。诸如持续血糖监测仪（CGM）如许须要长时光电池寿命跟及时数据处置的装备，都可能极年夜地受益于这项技巧。别的，智能床传感器能够在不直接打仗的情形下评价病人的呼吸形式，为近程察看供给不连续的安康数据。这一翻新在治理老年人照顾护士跟慢性疾病方面特殊有代价，由于连续监测有助于赶早发明潜伏的安康成绩。启动开辟要开端构建本人的TinyML利用，你须要懂得TinyML的基本常识并抉择适合的硬件。依据你的利用，你可能须要传感器来网络数据，比方减速度计、麦克风或摄像头。设置开辟情况包含装置Simplicity Studio集成开辟情况（IDE）、SDK跟TinyML所需的资本库。下一步是网络跟筹备与利用相干的数据。比方，假如你正在构建一个手势辨认体系，你须要网络差别手势的减速度计数据。网络数据后，你须要对其停止预处置，使其合适练习你的模子。练习模子须要在功效强盛的呆板上应用高等框架，如TensorFlow或PyTorch。一旦练习结束，模子须要应用量化跟剪枝等技巧停止优化。在实现优化后，即可将模子转换为合适MCU的格局，如TensorFlow Lite格局。最后一步是将优化后的模子安排到MCU，将其与利用顺序代码集成，并对其停止片面测试，以确保其满意机能跟精度请求。基于现实机能的一直迭代跟改良对完美TinyML利用至关主要。应用芯科科技的处理计划在微把持器上实现人工智能跟呆板进修芯科科技供给了一系列处理计划，有助于在MCU上实现AI/ML。EFR32/EFM32（xG24、xG26、xG28）跟SiWx917系列微把持器因为其低功耗跟强盛的机能而十分合适TinyML利用。以下是在芯科科技MCU上实现AI/ML的具体技巧指南：数据收罗与预处置数据收罗：应用衔接到MCU的传感器收罗原始数据，比方减速度计、陀螺仪跟温度传感器等传感器都可用于种种利用。预处置：对数据停止清算跟预处置，使其合适练习。这可能包含过滤噪声、对数值停止归一化处置以及将数据宰割到窗口中。为此，芯科科技供给了数据收罗跟预处置东西。模子练习模子抉择：依据利用抉择适合的ML模子。常用的模子包含决议树（decision tree）跟支撑向量机（vector machine）。练习：在高机能云效劳器或带有GPU的当地PC上应用TensorFlow练习模子。这包含将预处置数据输入模子并调剂参数以最小化偏差。模子转换：应用TensorFlow Lite转换器将练习模子转换为与TF Lite Micro兼容的格局。TensorFlow Lite for Microcontrollers (TFLM)中的FlatBuffer转换包含将TensorFlow Lite模子转换为FlatBuffer格局，这是一种紧凑的二进制格局，能够高效地存储跟疾速地拜访。这个进程对在内存跟处置才能无限的微把持器上运转呆板进修模子至关主要。FlatBuffers支撑直接拜访模子而无需解压。一旦采取FlatBuffer格局，该模子能够由微把持器履行，使其可能履行推理义务。这种转换减小了模子巨细，使其实用于内存十分无限的装备，而且能够疾速拜访跟履行模子，而无需停止大批剖析。别的，它还确保该模子能够在运转速度低于1GHz、代码空间无限（平日低于3MB）、SRAM无限（约256KB）的MCU上被无缝集成跟履行。模子安排与Simplicity SDK集成：应用芯科科技的Simplicity SDK将TF Lite Micro与MCU集成。闪存模子（Flashing the Model）：将转换后的模子移植到MCU的Flash上。这能够应用Simplicity Studio实现，它为芯科科技MCU的编程供给了一个用户友爱的界面。推理跟优化：利用量化跟剪枝等优化技巧，以减小模子巨细并进步机能。运转推理：一旦模子安排实现，它能够在MCU上运转推理。这包含向模子中输入新数据并取得猜测成果。软件东西链：新的软件东西包旨在支撑开辟职员应用一些最风行的东西套件（如TinyML跟TensorFlow）疾速构建跟安排人工智能跟呆板进修算法。AI/ML软件辅助计划职员创立新的利用顺序。除了原生支撑TensorFlow来为高效推理供给优化内核之外，芯科科技还与一些当先的AI/ML东西供给商（如SensiML跟Edge Impulse）配合，以确保开辟职员领有端到真个东西链来简化呆板进修模子的开辟，这些模子针对无线利用的嵌入式安排停止了优化。经由过程将这一全新的AI/ML东西链与芯科科技的Simplicity Studio开辟平台以及xG24、xG28跟xG26系列SoC联合应用，开辟职员能够创立可能从种种互联装备获守信息的利用，这些装备都能够彼此通讯，从而做出智能的、由呆板进修驱动的决议。芯科科技供给种种东西跟资本来支撑ML利用。以下是此中一些例子：呆板进修利用：芯科科技供给集成化的硬件、软件跟开辟东西，辅助客户疾速创立实用于产业跟贸易利用场景的、保险的智能装备。开辟平台支撑嵌入式呆板进修（TinyML）模子推理，由Tensorflow Lite for Microcontrollers（TFLM）框架支撑。该存储库包括一组呆板进修东西包（MLTK）：这是一个带有下令行适用顺序跟剧本的Python软件包，可支撑基于芯科科技的嵌入式平台开辟的呆板进修模子。它包含从下令行界面或Python剧本履行ML操纵的各项功效，并可断定ML模子在嵌入式平台上的履行效力，以及应用谷歌Tensorflow练习ML模子。参考数据集：MLTK附带参考模子应用的数据集。音频特点天生器（Audio Feature Generator）：芯科科技供给了与TensorFlow Lite模子一同应用的音频特点天生器。它依据sl_ml_audio_feature_generation_config.h中的设置去停止前真个初始化来天生功效，并以流形式来初始化跟启动麦克风。MLPerf Tiny Benchmark：MLPerf Tiny Benchmark是由一家开下班程同盟MLCommons计划的机能评价套件。它旨在权衡ML体系在推理方面的机能跟能效，将练习好的ML模子利用于新数据。该基准是专门为低功耗的最小装备量身定制的，平日用于深度嵌入式利用，如物联网（IoT）或智能传感。芯科科技参加了MLPerf Tiny基准测试，提交了展现呆板进修东西包（MLTK）功效的处理计划。该东西包包含TinyML基准测试应用的多少个模子，可在GitHub上取得，涵盖异样检测、图像分类、要害字辨认跟视觉叫醒词等利用顺序。与从前的版原形比，应用MLPerf Tiny v1.0的成果表现出了推理速率进步，以及代码范围跟内存应用量的增加。比方，Plumerai的推理引擎表示出了明显的加强，包含支撑时光序列神经收集，如基于LSTM的轮回神经收集（RNN），这在活动传感器、安康传感器、语音跟音频利用中很罕见。AI/ML配合搭档芯科科技与业界当先的供给商配合，包含Edge Impulse、SensiML、NeutonAI跟Eta Compute等AutoML东西链跟SaaS云搭档树立了配合关联。别的，诸如Sensory跟MicroAI等处理计划供给商，以及包含Capgemini跟Jabil在内的计划配合搭档都是该收集的一局部。这些同盟供给了可简化综合处理计划开辟的平台，使初学者更轻易打仗到边沿的AI/ML。TinyML在MCU上的上风：●   本钱低－MCU价钱公道●   绿色环保－能耗低●   易于集成－可轻松将MCU集成到现有情况中●   隐衷与保险－在当地处置数据，无需联网传输●   疾速原型开辟－疾速开辟观点验证处理计划●   自立牢靠－微型装备在任何情况下都能稳固运转●   及时处置－将耽误降至最低嵌入式开辟利用流程开辟存在呆板进修功效的利用须要两个差别的任务流程：●   应用Simplicity Studio来创立无线利用的嵌入式利用开辟任务流程。●   创立将增加到嵌入式利用的呆板进修功效的呆板进修任务流程。目的利用活动检测：在贸易办公年夜楼里，很多灯都是由活动探测器把持的，该探测器监测占用情形，以断定灯能否应当翻开或封闭。但是，当员工在办公桌前打字时，因为举措仅限于手跟手指，由于活动传感器自身无奈辨认他们的存在，以是可能会呈现主动关灯而无奈为员工可供给照明。经由过程将音频传感器与活动探测器衔接起来，额定的音频数据（如打字的声响）能够经由过程呆板进修算法停止处置，从而使照明体系可能更理智地决议灯是应当翻开仍是封闭。猜测性保护：可应用芯科科技的EFR32 MCU来开辟一个猜测性保护体系。这须要应用衔接的传感器来网络呆板的振动跟温度数据，同时练习一个模子来依据这些数据猜测潜伏的毛病，而后将该模子安排在MCU上，实现对呆板的及时监控跟保护打算。安康监测：应用EFM32 MCU构建可穿着安康监测装备。应用传感器网络心率跟体温等性命体征的数据。练习一个模子来检测数据中的异样。在MCU上安排该模子，辅助用户对安康情形供给及时剖析懂得。智能农业：应用芯科科技的MCU开辟智能浇灌体系。应用衔接的传感器网络泥土湿度跟气象数据。练习一个模子，以便依据这些数据来优化水的应用。将该模子安排在MCU上，把持浇灌体系，进步作物产量。论断MCU不再范围于简略义务，而是正成为实现AI的强盛平台。经由过程摸索面向AI优化的MCU，咱们能够为电池供电的智能装备开拓新的潜伏利用。无论是智能家居装备仍是产业传感器，AI驱动的MCU正在重塑嵌入式体系的将来。