open ai跟open cv有什么关系 opencv与ai深度学习小程序
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
本文约3700字,建议阅读5分钟
本周重要论文包括:CVPR 2022各种获奖论文。
目录
Learning to Sol【【微信】】sDual-Shutter Optical 【【微信】】EPro-PnP: Generalized End-to-End Probabilistic Perspecti【【微信】】lar Object Pose EstimationRef-NeRF: Structured 【【微信】】ance for Neural Radiance FieldsSelf-super【【微信】】id Segmentation for Robotic PouringNeural Label Search for Zero-Shot Multi-Lingual Extracti【【微信】】tion through Large ModelsArXi【【微信】】:NLP、CV、ML 更多精选论文(附音频)论文 1:Learning to Sol【【微信】】s
作者:Petr Hruby等论文链接:https://arxiv.org/abs/2112.03424摘要:该研究提出了一种在 RANSAC 框架中解决困难的几何优化问题的方法。最小化问题源于将原始几何优化问题松弛化为具有许多虚假解决方案的最小问题。该研究提出的方法避免了计算大量虚假解决方案。
研究者设计了一种学习策略,用于选择初始问题 - 解决方案对以用数值方法继续解决原问题。该研究通过创建一个 RANSAC 求解器来演示所提方法,该求解器通过使用每个视图中的 4 个点进行最小松弛化来计算 3 个校准相机的相对位姿。平均而言,该方法可以在 70 μs、内解决一个原始问题。此外,该研究还针对校准相机的相对位姿这一问题进行了基准测试和研究。
内部 RANSAC 循环为数据样本 p 找到最佳解决方案。
(a) 映射到问题空间 P 的问题解决流形 M;(b) 数值 HC 方法。
分类器评估。
推荐:CVPR 2022 最佳论文。
论文 2:Dual-Shutter Optical 【【微信】】
作者:Mark Sheinin 等论文链接:https://【【淘密令】】.thecvf.com/【【微信】】/C【【微信】】/papers/Sheinin_Dual-Shutter_Optical_【【微信】】_C【【微信】】_paper.pdf摘要:视觉振动测量是一种非常有用的工具,可用于远程捕捉音频、材料物理属性、人体心率等。虽然视觉上可观察的振动可以通过高速相机直接捕捉,通过将激光束照射振动表面所产生的散斑图案的位移成像,可以从光学上放大微小且不易察觉的物体振动。
在本文中,研究者提出了一种在高速(高达 63 kHz)下同时检测多个场景源振动的新方法,该方法使用额定工作频率仅为 130Hz 的传感器。他们的方法使用两个分别配备滚动和全局快门传感器的相机来同时捕捉场景,其中滚动快门相机捕捉到对高速物体振动进行编码的失真散斑图像,全局快门相机捕捉散斑图案的未失真参考图像,从而有助于对源振动进行解码。最后,研究者通过捕捉音频源(如扬声器、人声和乐器)引起的振动并分析音叉的振动模式,展示了他们的方法。
研究者用一种新颖的方法「看到」(seeing)声音。
(a) 成像散焦散斑;(b) 双快门成像系统示意图。
双快门相机定时。
推荐:CVPR 2022 最佳论文提名。
论文 3:EPro-PnP: Generalized End-to-End Probabilistic Perspecti【【微信】】lar Object Pose Estimation
作者:Hansheng Chen 等论文链接:https://arxiv.org/pdf/2203.13254.pdf摘要:利用透视点(PnP)基数从单个 RGB 图像中定位 3D 物体是计算机视觉领域一个长期存在的问题。在端到端深度学习的驱动下,近期的研究建议将 PnP 解释为一个可微分层,如此 2D-3D 点对应就可以部分地通过反向传播梯度 w.r.t. 物体姿态来学习。然而,从零开始学习整套不受限的 2D-3D 点在现有的方法下很难收敛,因为确定性的姿态本质上是不可微的。
这篇论文提出了一种用于普遍端到端姿态估计的概率 PnP 层 ――EPro-PnP(end-to-end probabilistic PnP),它在 SE 流形上输出姿态的分布,实质地将分类 Softmax 带入连续域。2D-3D 坐标和相应的权值作为中间变量,通过最小化预测姿态与目标姿态分布之间的 KL 散度来学习。其基本原理统一了现有的方法,类似于注意力机制。EPro-PnP 的性能明显优于其他基准,缩小了基于 PnP 的方法与基于 LineMOD 6DoF 的姿态估计以及 nuScenes 3D 目标检测基准的特定任务方法之间的差距。
EPro-PnP 方法概览。
学习离散分类器 vs 学习连续姿态分布。
算法 1:基于 AMIS 的蒙特卡洛姿态损失。
推荐:CVPR 2022 最佳学生论文。
论文 4:Ref-NeRF: Structured 【【微信】】ance for Neural Radiance Fields
作者:Dor Verbin 等论文链接:https://arxiv.org/pdf/2112.03907.pdf摘要:神经辐射场是一种流行的视图合成技术,它将场景表示为连续的体积函数,由多层感知器参数化,多层感知器提供每个位置的体积密度和与视图相关的散发辐射。虽然基于 NeRF 的方法擅长表征平滑变化的外观几何结构,但它们通常无法准确捕捉和再现光泽表面的外观。
该研究提出了 Ref-NeRF 来解决这个问题,它将 NeRF 与视图相关的散发辐射的参数化替换为反射辐射的表征,并使用空间变化的场景属性的集合来构造该函数。该研究表明,使用法向量上的正则化器,新模型显著提高了镜面反射的真实性和准确性。此外,该研究还表明该模型对散发辐射的内部表征是可解释的,这对于场景编辑非常有用。
与以往表现最好的神经视图合成模型 mip-NeRF 相比,Ref-NeRF 显著提升了法向量(最上行)和视觉真实性(余下行)。
mip-NeRF(上)和 Ref-NeRF(下)的架构图比较。
Ref-NeRF 渲染出准确的光鲜表面,覆盖精细几何细节。
推荐:CVPR 2022 最佳学生论文提名。
论文 5:Self-super【【微信】】id Segmentation for Robotic Pouring
作者:Gautham Narasimhan 等论文链接:https://arxiv.org/pdf/2203.01538.pdf摘要:近期,在 CMU 和圣母大学的一篇论文中,研究者提出了一种在透明容器中感知透明液体(水)的方法。与以往方法相比,本研究提出的方法减轻了对操作域的限制。具体地,他们在单个图像上进行操作,不需要液体运动或多帧,也不需要在训练期间进行手动注释或加热液体。研究者使用一个生成模型来学习将有色液体的图像转换为透明液体的合成图像,这种做法可以用来训练透明的液体细分模型。
论文一作 Gautham Narasimhan 现为 CMU 机器人研究所的助理研究员,2020 年在 CMU 拿到了硕士学位。目前,他致力于研究用于机器人倒水任务的强化学习模型。该研究由 LG Electronics 和美国国家科学基金会提供资助,并于 5 月份发表在 IEEE 国际机器人和自动化会议上。该论文已被机器人领域国际顶会 ICRA 2022 接收。
有色液体图像转换成透明液体图像的详细流程图。
透明液体细分流程图。
推荐:将有色液体图像转换成透明液体,CMU 教机器人准确掌控向杯中倒多少水。
论文 6:Neural Label Search for Zero-Shot Multi-Lingual Extracti【【微信】】
作者:Ruipeng Jia 等论文链接:https://【【淘密令】】.org/2022.acl-long.42.pdf摘要:抽取式文本摘要目前在英文上已经取得了很好的性能,这主要得益于大规模预训练语言模型和丰富的标注语料。但是对于其他小语种语言,目前很难得到大规模的标注数据。中国科学院信息工程研究所和微软亚洲研究院联合提出一种是基于 Zero-Shot 的多语言抽取式文本摘要模型。具体方法是使用在英文上预训练好的抽取式文本摘要模型来在其他低资源语言上直接进行摘要抽取;并针对多语言 Zero-Shot 中的单语言标签偏差问题,提出了多语言标签标注算法和神经标签搜索模型。
实验结果表明,模型 NLSSum 在多语言摘要数据集 MLSUM 的所有语言上大幅度超越 Baseline 模型的分数。其中在俄语(Ru)数据集上,零样本模型性能已经接近使用全量监督数据得到的模型。该研究发表在了 ACL 2022 会议主会长文上。
多语言 Zero-Shot 中的单语言标签偏差问题。
多语言标签。
多语言神经标签搜索摘要模型。
推荐:基于神经标签搜索,中科院 & 微软亚研零样本多语言抽取式摘要入选 ACL 2022。
论文 7:E【【微信】】 Models
作者:Joel Lehman 等论文链接:https://arxiv.org/abs/2206.08896摘要:很难想象,让大型语言模型辅助一下智能体机器人,它就自己成精了...... 深度学习和进化计算两种方法都适用于计算,都可以产生有用的发现和有意义的进展。不过,二者之间到底是相互竞争的模式,还是互补的模式?最近一篇论文中,来自 OpenAI 的研究者探讨了第二种情况,即互补模式的可能性。他们研究了大语言模型 (LLM; [1,2]) 在基因编程 (GP; [3,4]) 和开放性 [5-7] 上的潜在意义,发现了二者间的协同作用。
该研究选择使用 MAP-Elite 算法进行实验。
来自 OpenAI API 的模型优于论文中的 diff 模型。
一个单独的 Sodaracer 由一个大小可变的点质量(point mass)集合 (每个点质量都由其初始的 2D 位置描述) 和将质量连接在一起的振荡弹簧组成。
推荐:大型语言模型教会智能体进化,OpenAI 这项研究揭示了二者的互补关系。
ArXi【【微信】】
在ArXi【【微信】】中,在 7 Papers 的基础上,精选本周更多重要论文,包括NLP、CV、ML领域各10篇精选,详情如下:
本周 10 篇 NLP 精选论文是:
1. CHEF: A Pilot Chinese Dataset for E【【微信】】ecking. (from Philip S. Yu)
2. DP-Parse: Finding Word Boundaries from Raw Speech with an Instance Lexicon. (from Abdelrahman Mohamed, Emmanuel Dupoux)
3. GODEL: Large-Scale Pre-Training for Goal-Directed Dialog. (from Jianfeng Gao)
4. GEMv2: 【【微信】】marking in a Single Line of Code. (from Dragomir Radev)
5. 【【微信】】anguage Generation with Implicit Language 【【微信】】. (from Sergey Levine)
6. BenchCLAMP: A Benchmark for E【【微信】】els on Semantic Parsing. (from Jason Eisner)
7. The Problem of Semantic Shift in Longitudinal Monitoring of Social Media: A Case Study on Mental Health During the CO【【微信】】. (from Mark Dredze)
8. Theory-Grounded Measurement of U.S. Social Stereotypes in English Language Models. (from Hal Daumé III)
9. 【【微信】】d to Train a Dense Passage Retriever. (【【微信】】)
10. Hierarchical Context Tagging for Utterance Rewriting. (from Daniel Gildea)
本周 10 篇 CV 精选论文是:
1. 【【微信】】: Masked 【【微信】】r Video Prediction. (from Li Fei-Fei)
2. CMT-DeepLab: Clustering Mask Transformers for Panoptic Segmentation. (from Alan Yuille, Liang-Chieh Chen)
3. PromptPose: Language Prompt Helps Animal Pose Estimation. (from Dacheng Tao)
4. Rectify 【【微信】】y Visual Saliency. (from Dinggang Shen)
5. Design of Super【【微信】】g Systems: Methodology and Performance Benchmarking. (from C.-C. Jay Kuo)
6. Parallel Pre-trained Transformers (PPT) for Synthetic Data-based Instance Segmentation. (from Ming Li, Jie Wu)
7. Impro【【微信】】 Metric Learning via Listwise Self-distillation. (from Zheng Wang)
8. SATBench: Benchmarking the speed-accuracy tradeoff in object recognition by humans and dynamic neural networks. (from Denis G. Pelli)
9. The ArtBench Dataset: Benchmarking Generati【【微信】】. (from Kurt Keutzer)
10. Scaling Autoregressi【【微信】】ich Text-to-Image Generation. (from 【【微信】】, Yonghui Wu)
本周 10 篇 ML 精选论文是:
1. AutoML Two-Sample Test. (from Bernhard Sch?lkopf)
2. 【【微信】】amics: Disco【【微信】】dels from Interventions. (from Bernhard Sch?lkopf)
3. The Role of Depth, Width, and Acti【【微信】】e Number of Linear Regions of Neural Networks. (from Michael Unser)
4. Channel-wise Mixed-precision Assignment for DNN Inference on Constrained Edge Nodes. (from Luca Benini)
5. LED: Latent 【【微信】】tion of Density. (from Michael J. Black)
6. $ exttt{FedBC}$: Calibrating Global and Local Models 【【微信】】 Beyond Consensus. (from Dinesh Manocha)
7. How robust are pre-trained models to distribution shift?. (from Philip H.S. Torr)
8. FINGER: Fast Inference for Graph-based Approximate Nearest Neighbor Search. (from Inderjit S. Dhillon)
9. Optimally Weighted Ensembles of Regression Models: Exact Weight Optimization and Applications. (from Thomas B?ck)
10. Fighting Fire with Fire: A【【微信】】hrough Priming. (from Yang Gao)
OpenAI api(CVPR 2022最佳最佳学生论文大型语言模型教会智能体进化)由ChatGPT中文网发布,转载请联系本站书面授权。 特别声明:本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者在两周内速来电或来函联系。语音识别ai 开源 openai 语音
语音识别ai过程,语音识别ai需要训练吗,语音识别asr,语音识别api原标题:【【微信】】中文语音识别效果尝试和应用(一)
近期,OpenAI发布了Whisper语音识别模型,声称其在英语语音识别方面已接近人类水平的鲁棒性和准确性。出于对自动语音识别的兴趣,本人对此进行了一些尝试,看看它对中文语音识别的效果。
本内容仅供对语音识别有兴趣或者仅仅希望应用的入门朋友参考。
一、安装
测试电脑:MacBook Pro?
测试系统:MacOS Monterey 12.6
1、安装brew
安装brew的目的是为了下一步安装python. 如果已经安装,请跳过。
在终端命令行中执行:
选择合适的brew本体下载源,如“清华大学下载源“,然后一路按提示进行安装即可。
2、安装python
在终端命令行中执行:
这里有一个很重要的点是:brew的方式安装python时默认是不执行certifi文件的,需要手动执行,否则在下载whisper模型时会出现ssl异常:
其中3.10需要根据你的实际情况进行修改。
3、安装torch
在终端命令行中执行:
4、安装git
在终端命令行中执行:
5、安装whisper文章来源地址【【网址】】/blog/417831.html
在终端命令行中执行:
6、安装ffmpeg
在终端命令行中执行:
7、安装rust
在终端命令行中执行:
二、测试【【网址】】
直接在命令行中执行:
其中,/Users/bmob/Downloads/8.m4a?是你的语音文件路径。
base是模型名称,如果你想用其他模型,还可以选择:
- tiny
- base
- small
- medium
- large
越往后的模型,对硬件的要求越高,识别精度越高,当然了,速度也越慢。
我即兴了录了一段语音(24秒)去识别,发现tiny模型出来的结果是:
? ? ? ? 在提示缺乏独立显卡的前提下,识别结果还是比较快速的。
small模型出来的结果是:
? ? ? ? 等待了接近二十秒,才出来结果。
? ? ? ? 用medium模型,识别出来的结果是:
? ? ? 等待了近两分钟,才出来结果。
? ? ? ? 而large模型在实验机面前直接跑崩了。
三、总结
- whisper自动语音识别模型还是相当牛逼的,如果你的使用场景要求不那么高,还是可以满足大部分要求的,比如不少文章提到的视频语音转译。
- 并不是越大的模型精确度越好,我们要根据实际情况去选择合适的模型。
- whisper对于长语音的效果并不太好,比较适合短语音的情况。
欢迎更多的朋友参与讨论如何使用whisper进行产品开发,模型训练,模型二次开发等。
QQ交流群:OpenAI交流群
? ? ?
来源于:【【微信】】中文语音识别效果尝试和应用(一)