眼睛看到一条鱼时,视网膜并非只负责把画面原封不动地交给大脑。明暗差异和局部特征会先被处理,再进入更高层次的判断。机器视觉也可以采用这样的分工:让感光阵列先增强目标、压低背景,让后一级阵列接手分类。
周广东等研究者在2023年发表于Nature Communications的工作中,用改性丝素蛋白制成可由光和电分别调节的忆阻器,并把两组阵列、读出电路与STM32主控连接起来。论文的四幅正文图,依次回答架构怎样分工、器件为何能调节、像素怎样被整理,以及硬件如何完成识别。
从视网膜到视觉皮层,先建立分工
图1上半部分从生物视觉入手:杆细胞和锥细胞接收光,双极细胞与神经节细胞参与信号整理,视觉皮层完成更高层次的处理。左上角增强、抑制两类响应,提示人工感光器件需要能够朝相反方向调节信号,才方便拉开目标与背景的差别。
对应到图的左下方,光控忆阻器阵列称为ORRAM。输入光信号被记录为像素电导后,可利用正光电导记忆增强响应,利用负光电导记忆降低响应,再执行卷积运算。旁边的三个小图分别表示对比度增强、图像擦除和特征提取,都是送去分类之前的工作。
右下方的电控阵列称为ERRAM,它把网络权重写入电导,通过电压输入与电流输出完成映射运算。两种模式使用同类器件,却在系统中承担不同任务。图1是理解整体路线的架构图;实际电路和板卡将在图4出现,不能把中央的芯片造型当作封装实物照片。
同一材料,如何同时接受电和光的调节
图2a给出金电极—改性丝素蛋白—金电极结构及截面显微照片,功能层厚约100 nm。图2b说明材料从哪里来:提取丝素蛋白后,引入聚甘油-3和5,6-二羟基吲哚,通过氢键作用形成新的网络。能够响应光、电刺激的是这套改性材料,而不是未经处理的普通蚕丝。
图2c的电压扫描与图2d的脉冲曲线展示电学调节:正、负写入脉冲可以让电导逐步上升或下降。这里电导相当于能够保存的模拟数值,可用于表示网络权重。图2e给出作者的解释,电子被局部陷阱俘获或释放,改变材料的导电状态,为电写入提供记忆机制。
图2f转向405 nm光照:较高光功率使电流增强,较低光功率使电流受抑,两者均可留下记忆。图2g、h比较40 mW与80 mW照射后的红外光谱,图2i把光响应与蛋白二级结构重排联系起来:β折叠和β转角组分的变化,对应不同的导电趋势。
图2j、k再从局部电流验证这种变化。导电探针扫描同一类薄膜,记录不同光照条件下的电流分布:增强照射后电流上升,随后抑制照射又把它压低。结构模型、光谱与电流图相互补充,使双向响应有了材料层面的依据,也解释了为何前端有机会同时保留目标、抑制背景。
让目标更突出,也让旧画面能够清除
图3a把双向调节连续展示出来:先施加50个80 mW、200 ms光脉冲,电流逐渐增强;再施加50个40 mW、200 ms脉冲,电流逐渐降低。图3b、c观察成对短脉冲带来的短暂变化,分别对应增强和抑制。这说明器件不仅感知某一时刻的亮度,还会对刺激过程作出响应。
图3d、e进一步增加脉冲数量,左侧展示多级状态怎样逐步形成,右侧展示撤去照射后如何保持。不同光功率对应不同变化轨迹,既能向上累积,也能向下调节。这里应同时看写入曲线和保持曲线:前者体现可调范围,后者说明这些变化能够作为后续处理可读取的记忆。
图3f解释像素处理流程,图3g给出12×12阵列中的鱼形图案。较亮的主体被增强,较暗的背景被抑制,鱼的轮廓逐渐从噪声中显现。正文报告25轮处理后,对比度由约5提高至约33,约为原来的6倍。随后通过负光电导刺激清除图案,为接收下一幅图像腾出状态空间。
从器件曲线走向真正连接起来的识别硬件
图4a是完整电路关系,图4b是实际板卡和阵列照片。两组12×12阵列通过数模转换、跨阻放大、模数转换等电路连接STM32主控:一组负责光控预处理,另一组保存电学权重。阵列承担映射的卷积与全连接运算,激活、池化及权重更新计算则由ARM内核完成。
图4c展开第一层卷积的实现方式:图像先写入像素电导,卷积核转换成分时施加的读电压,列电流提供乘加结果,再组合各时间段的输出。图4d展示熊图案的增强、特征提取与擦除,图4e展示蝴蝶和鱼的去噪结果,使抽象的电流运算对应到可以观察的图像变化。
图4f说明下一组阵列如何接手分类。输入特征转换为电压,正、负权重由一对差分电导表示,两列电流相减得到带符号的结果。图4g、h比较训练前后的混淆矩阵:训练后,熊、鱼、蝴蝶三类样本集中在对角线上,作者报告识别准确率达到97.3%。
图4i记录训练过程中阵列电导分布的变化,说明网络学习最终落实为可写入硬件的权重。图4j比较是否加入ORRAM预处理:前端先整理图像后,后级分类更快达到较高准确率。图4k另列软件仿真与硬件训练结果作对照,两条曲线的接近用于检验硬件计算的有效性。
图4l给出不同样本对应的输出神经元响应,完成从光输入到类别输出的闭环。这一演示使用的是熊、鱼和蝴蝶三类图案,97.3%应连同这一任务范围理解。它最有价值的地方,是把感光记忆、预处理、阵列运算和外围控制真正接通,让材料功能进入了系统流程。
从材料机制,走向感知应用
这项工作的主线,是让视觉处理分层发生:感光端先整理输入,近传感器阵列承担映射计算,主控负责其余操作。光、电双模式使同类器件可以服务于不同环节,减少系统对多种器件工艺的依赖,也让前端预处理与后端识别在一套硬件中得到检验。
对玄光明鉴而言,这为视觉前端与端侧主控如何分工提供了具体参考。我们的碳基器件路线与文中的改性丝素蛋白不同,可以借鉴的是感知、记忆与计算协同的架构思路;模组中的识读翻译和交互,仍需结合自身器件、读出电路及算法逐步实现。
文献与原图来源
Guangdong Zhou, Jie Li, Qunliang Song, Lidan Wang, Zhijun Ren, Bai Sun, Xiaofang Hu, Wenhua Wang, Gaobo Xu, Xiaodie Chen, Lan Cheng, Feichi Zhou, Shukai Duan
Full hardware implementation of neuromorphic visual system based on multimodal optoelectronic resistive memory arrays for versatile image processing. Nature Communications 14, 8489 (2023). DOI: 10.1038/s41467-023-43944-2
图 1–4 来自原论文,保留图中的子图标识、坐标与原有图像;中文图注和正文为逐图解读。
