高通公司如何通过其Spectra ISP改善安卓手机上的拍照体验

2020-10-27 15:02:24

作为为全球大部分智能手机和可穿戴设备提供动力的片上系统(SoC)的制造商,总部位于美国的高通无疑是芯片制造行业的巨头之一。例如,几乎所有主要的Android设备制造商都将Snapdragon系列SoC用于旗舰,中端和廉价智能手机。高通公司每年都会在公司年度技术峰会上大放异彩,以表彰其在CPU,GPU和AI领域的进步,因为它融合了ARM的新CPU微体系结构,并通过对其自定义GPU的年度改进来对其进行补充。但是,它在相机领域的进步并未引起人们的广泛关注,因为它们倾向于受到关注。

但是,这并不意味着高通在智能手机相机中的工作并不重要。相反,高通公司的Snapdragon SoC中的Spectra ISP通过增强的计算处理能力,8K视频录制,HDR10视频,支持高像素QCFA相机等功能,帮助使许多现代智能手机相机成为可能。高通公司宣布骁龙855中的Spectra 380 ISP是世界上第一个CV-ISP,并推广了世界上第一个4K HDR视频记录功能,现在它本身已经被第二代4K HDR10 +视频记录所补充。最新一代Snapdragon 865中的Spectra 480 ISP强大的功能–每秒可处理两个千兆像素,比其前代产品增加40%。这是一种知识产权(IP),可以使高通公司与移动芯片供应商领域的竞争对手区分开来。

尽管高通在其新闻稿和产品主题演讲中解释了大多数标题功能,但到目前为止,消费者还没有机会了解使这些功能正常工作的大多数底层细节。

这就是为什么XDA Developers乐于接受与高通产品管理高级总监Judd Heape交谈的提议的原因。XDA的总编辑Mishaal Rahman和我在2020年6月接受了贾德的采访,以了解和了解高通如何通过智能手机摄影和视频录制来推动目标的实现。我们讨论了包括AI图像处理,多帧降噪(MFNR),AV1,Dolby Vision视频录制,高像素摄像机中的像素合并等主题。让我们一一看一下贾德对每个主题的见解:

AI图像处理工作量

Mishaal Rahman:我将首先介绍Idrees拥有的一个,这是一个有趣的,并且我也很感兴趣。因此,我们想知道Qualcomm在Spectra ISP中使用的AI图像处理工作负载是什么?它们在什么程度上可以由设备制造商定制?

Judd Heape:是的,所以我们研究了很多AI工作负载,并且有一些AI可以在ISP本身中运行,例如我们的下一代3A:自动曝光,自动白平衡和自动对焦都是基于AI的。

但是,我们还将研究其他一些AI工作负载,它们将在其他计算元素之一中运行在ISP之外。因此,我们特别关注以下内容:在芯片的AI引擎(AIE)部分中,我们有一个基于AI的降噪内核,该内核从ISP外部运行。

此外,我们还有人脸检测之类的东西,它是一个完整的深度学习引擎,它也可以在AIE复杂系统中运行,但当然可以辅助相机。除了人脸检测和去噪之外,我们还需要其他工作。我们还在考虑做一些事情,例如使用AI自动调整快照,该操作会根据HDR内容自动设置每个场景的参数,我们将处理修改阴影,高光和颜色等操作。

我们的合作伙伴之一Morpho在今年的Embedded Vision Summit上刚刚获得了巨大的AI工作量奖。独立软件供应商合作伙伴也有很多非常强大的基于AI的算法,其范围从平滑的相机过渡(如Arcsoft所做的事情,我在上一次基于AI的Snapdragon Tech Summit上提到)到Morpho的算法不等。语义分割引擎。Morpho的解决方案是一个AI引擎,它可以了解场景的不同部分,例如您所知道的,织物,皮肤,天空,草木和建筑物以及诸如此类的东西,然后ISP可以获取该信息并以不同方式处理这些像素以获取纹理和例如噪音和颜色。

多帧降噪

Idrees Patel:高通公司一直在提及多帧降噪功能。我想了解有关图像堆叠工作原理的更多详细信息。是在某种程度上类似于Google对其HDR +技术所做的事情,还是完全不同?

Judd Heape:相似但不同。想象一下相机连续拍摄并连续拍摄五到七个帧。然后,ISP引擎查看这些帧,并选择最佳的帧(称为“锚帧”)以保持焦点和清晰度,然后可以在该帧的任一侧选择3-4帧,然后将它们平均在一起。它尝试拾取足够靠近的框架,以使移动很少。

当它停留在这些帧上时,然后将它们平均在一起以辨别出什么不同,例如,什么是实际图像数据还是什么是噪声数据。因此,当您从越来越多的框架中获得越来越多的信息时,实际上可以做一些简单的事情,例如查看框架之间的差异。差异可能是噪声,而帧中相等的可能是图像数据。

因此,我们可以进行实时帧合并以减少噪声。现在,您还可以在低照度和HDR下执行相同的操作,这与Google可能正在执行的操作非常相似。我们不了解他们的算法。但是他们正在使用多帧技术来提高灵敏度,以便您可以更好地“看到”;一旦降低了本底噪声,您现在就可以考虑进行更多的本地色调映射,或者在不增加更多噪声的情况下为图像增加增益。

这就是他们处理弱光和HDR的方式。高通将增强多帧降噪功能,其中还将包括低照度和HDR。但这是我们很快就会推出的东西。

Mishaal Rahman:您刚才提到了推出此功能。这是对合作伙伴的BSP的更新吗?

Judd Heape:在我们的下一代产品中,通过添加软件,我们将有能力与之互动-实际上,下一代产品正在发生这种情况-我们正与客户互动以进行更多的多帧技术除了减少噪音外,还可以处理HDR和弱光情况。它使用的是相同的基本ISP硬件引擎,但是我们添加了更多软件来处理这些多帧内容,而不仅仅是减少噪声。

因此,这还没有推出,但是我们正在与一些主要的主要客户合作使用这些功能。

分析和内容:高通公司在每一次发布新的Snapdragon SoC时,其规格表都包括与多帧降噪相关的规格。例如,带有双14位CV-ISP的Snapdragon 865最多支持假想的200MP单摄像头(尽管索尼,三星和OmniVision等摄像头传感器供应商尚未发布任何高于108MP的智能手机摄像头传感器)。但是,当涉及到具有MFNR,零快门滞后(ZSL)和30fps支持的单摄像机时,规格更改为64MP,而对于具有相同规格的双摄像机,规格更改为25MP。

高通公司的多帧降噪与HDR +非常相似,但并不完全相同,如上文Judd所述。HDR +会进行一系列曝光不足的曝光并将其平均以获取最佳照片,而MFNR则会拍摄五到七个正常的照片。高通公司的MFNR似乎没有Google解决方案那么先进,因为在Spectra的当前工作流程中并未提到HDR和弱光是特定的优先事项,而Google的HDR +则同时针对HDR,弱光摄影和降噪,借助Night Sight进一步提高了档次。但是,令人鼓舞的是得知MFNR正在接受增强功能,高通公司将向“一些关键客户”推出这些增强功能。将来,也许我们将不需要非官方的Google相机 端口,以充分发挥非Google Android智能手机摄像头的潜力。

视频超分辨率

Mishaal Rahman:我在技术峰会上听到了一些话。实际上,我认为这是在接受Android Authority采访时。高通是否计划将超分辨率扩展到视频,作为合作伙伴的软件解决方案,并且显然会在更新中推出。我想知道您是否有任何更新要共享此功能。

Judd Heape:是的,这是我们已经有一段时间才能使用的功能,并且现在刚刚推出。我不会说它是在软件更新中,但是我想说这有点像现有的多帧低光功能的附加好处。我们正在与该功能的一些特定主要客户合作。是的,视频超分辨率是另一代产品,因此我们将其称为记录计划功能,实际上将其内置于摄像机的软件代码库中。但是现在,该功能更多的是在特定客户参与方面。

分析和上下文:视频的超分辨率是迄今为止的功能,尚未在智能手机相机中显示。这是一个新的领域,有关它的研究论文仍在撰写中。使用多帧技术进行摄影是一回事,但是将其用于视频将视频放大到更高的分辨率则是另一回事。高通公司表示将再次向“一些主要客户”推出该功能,但是目前,它还没有内置在相机的软件代码库中。将来,它可能适用于所有人,但目前,它是最终消费者尚未使用的功能。

高像素Quad Bayer传感器

Idrees Patel:让我们谈谈Quad Bayer传感器。自2019年以来,许多手机现在具有48MP,64MP甚至108MP传感器。这些是Quad Bayer传感器;您实际上没有48或64或108MP的真实色彩分辨率。我想问的一件事是,与传统传感器相比,这些Quad Bayer或Nona Bayer传感器(4合1或9合1像素合并)的ISP在图像处理方面有何不同?没有任何像素合并。

Judd Heape:是的,因此,这些四方CFA(四色滤色器阵列)传感器的优势当然是能够在明亮的光线下以全分辨率运行它们,然后ISP可以将其处理为完整的108兆像素或64兆像素,任何可用的。

但是,通常在大多数照明情况下,例如室内或黑暗中,您都必须进行装仓,因为传感器像素太小,必须组合像素才能获得更好的光敏性。因此,我想说的大部分时间都是如此,特别是如果您正在拍摄视频或在光线不足的情况下拍摄快照,那么您将在合并模式下运行。

现在,ISP可以用任何一种方式处理传感器。您可以在合并模式下查看传感器,在这种情况下,它只是进入的常规拜耳图像,或者可以在全分辨率模式下查看,其中输入数据为四CFA。如果在这种模式下,ISP会将其转换为拜耳。

因此,我们正在做我们所谓的“重新镶嵌”。这是对四方CFA图像进行一些插值,以使其再次看起来像全分辨率Bayer。尽管我们最终将在硬件中添加此功能以支持视频,但这通常是在用于快照的软件中完成的。

如今ISP硬件中的内容是分箱。因此,您可以将传感器装仓,然后实际上可以让传感器确定是要输出全分辨率还是四分之一或1/9分辨率,也可以在ISP中装仓。实际上,这是我们在Snapdragon 865中添加的功能。因此,如果您在ISP中进行装箱,然后以全分辨率运行传感器,则ISP可以同时具有全分辨率图像和合并图像。因此,它可以将较小分辨率或“合并”的图像用于视频(摄像机)和预览(取景器),同时将全分辨率图像用于全尺寸快照。

但是同样,在明亮的照明条件下也是如此。但是至少如果您在ISP中进行装箱,则可以同时处理大小图像,因此,您可以同时获取视频和快照,还可以获取全分辨率ZSL。所有这些都无需来回切换传感器,这会花费大量时间。

这是一个非常好的功能。随着Quad CFA传感器的出现,甚至大家都知道,9x传感器甚至更多的传感器问世了,并且随着这些传感器的普及,我们正在越来越多地寻求在硬件中处理这些传感器,不仅用于分箱,还用于马赛克。

因此,这样做的好处是,如果您在硬件中进行操作而不是在软件中进行操作,则可以减少客户的延迟,因此,连发时间和突发速率将更快。因此,当我们与新的ISP和新芯片一起前进时,您将开始看到我们为硬件中这些新型传感器所做的更多工作。

分析和背景:华为是第一个将40MP Quad Bayer传感器与华为P20 Pro在2018年问世,Quad Bayer传感器的受欢迎程度如此之高,以至于现在它已经可以使用由Snapdragon / Exynos / MediaTek芯片驱动的150美元的手机了。特别是,我们已经看到智能手机行业将48MP和64MP相机作为最佳选择,而少数手机的确达到了108MP。Quad Bayer和Nona Bayer传感器并非没有底片,因为它们的完整分辨率带有警告。

但是,出于市场原因,即使用户大部分时间都在拍摄12MP像素合并的照片,48MP传感器的声音也比12MP传感器好得多。理论上,与传统的12MP传感器相比,48MP传感器在低光照条件下应能产生更好的12MP像素合并照片,但是图像处理必须跟上,并且如我下面所述,要实现这一目标还有很长的路要走。无论如何,很有趣的是看到Spectra ISP如何处理具有马赛克功能的Quad Bayer传感器。这些传感器具有很大的潜力,像OnePlus 8 Pro(使用具有大像素的Sony IMX689 Quad Bayer传感器)之类的手机目前正处于智能手机相机的顶峰。

基于ML的面部识别

Mishaal Rahman:所以我想您之前已经提到Spectra 480支持基于ML的面部识别。这是我在技术峰会上实际听到的。[这是]从380到480的改进之一;这是它的一部分–视频分析引擎中有一个新的客观检测模块,可用于未来的空间识别。

您能否进一步谈谈这可以在多大程度上改善面部识别能力,以及您认为厂商正在使用哪些潜在应用程序?

Judd Heape:是的,实际上,您对的是嵌入式计算机视觉模块,即我们在Tech Summit上谈到的“ EVA”模块。它具有一个通用的对象检测核心,当相机运行时我们将使用该核心,我们将其用于检测人脸。该块中的技术是更传统的技术,因此对象识别是使用传统分类器完成的,但最重要的是,我们确实运行了软件引擎,以实际提高该块的准确性。

因此,我们使用基于ML的软件来滤除误报,因为硬件可能会在场景中检测到更多的人脸,然后ML软件说:“好,是人脸”,或者“那不是真的”一张脸”,因此通过在硬件顶部运行ML过滤器,可以将准确性提高几个百分点。

我提到了很多关于未来的事情。未来,我们计划做的是在ML或软件的深度学习模式下运行实际的全脸检测。尤其是在较低层,这是正确的,因此,例如,在没有EVA硬件引擎的层中,我们将开始逐步进入深度学习作为检测阶段,该阶段在芯片的AI引擎中运行,并且之后,在700-800层的高层中,我们确实有EVA硬件可以做到这一点……

总的来说,我将说,我们将朝着机器学习方法进行人脸检测,这将包括中期的软件和后期的硬件。我不会透露哪些产品将拥有它,但是,当然,随着我们不断改进ISP,我们肯定会添加越来越多的硬件功能来进行ML。

Mishaal Rahman:太好了。好吧,我认为这是必然的方向,它将使800系列的机器学习改进下降到更低的层次,所以我认为这通常是已知的。但是,当然,您无法提供具体细节。谢谢你的更新。

Judd Heape:人脸检测是我们非常热衷的事情。我们想提高这些精度,您知道从800层到400层的所有层的代代相传。ML是其中的重要部分。

分析和背景:这些方面使智能手机的摄影技术比最新的无反光镜相机具有更多的潜力。是的,无反光镜相机在弱光下具有更好的图像质量,并且更加灵活,但是智能手机相机通过巧妙的方式克服了它们的局限性。基于ML的面部检测只是其中的一部分。

图像处理引擎的改进

Mishaal Rahman:太好了。因此,在Snapdragon技术峰会之后的圆桌讨论中,我简短听到的一件事就是对图像处理引擎的改进。我听说改进了低中频降噪或LEANR。并且您正在应用动态反向增益图;是您之前在对话中提到的吗?

贾德·希普(Judd Heape):好的。所以我认为您正在将两件事混在一起。是的,这里有LEANR核心,该核心可降低更多粗颗粒的噪声,从而有助于弱光。那是在Snapdragon 865中添加到ISP的新块,那是一回事。

反向增益图是另外一回事。这是我在圆桌会议上提到的其他内容,但这是为了扭转镜头阴影的影响。因此,如您所知,如果您有听筒并且有一个小镜头;镜头的中心会变亮,边缘会变得更渐晕;表示它们会变暗。

因此,在ISP过去的几年中,我们已经应用了静态反向增益映射来消除这些暗边缘。因此,这在ISP中已经存在了一段时间。不过,我们在Snapdragon 865中添加的功能是,在给定特定图像帧的情况下,该增益图可以动态更改,因为如果对边缘应用大量增益,则会发生边缘被修剪的情况,尤其是当您正在寻找时在外面明亮的场景中,例如蓝天可能会变成白色,或者由于大量增益而边缘会被剪切。

因此,在Snapdragon 865中,反向增益图不是静态的。它是动态的。因此,我们正在查看图像,然后说:“好的,图像的这些部分已被裁剪,不应该被裁剪”,因此我们可以自然地滚动增益图,以免出现亮条纹或光晕效果或通过校正镜头阴影来解决这类问题。因此,这与降噪有所不同,它们是两个不同的核心。

低照度摄影和主动降噪

Idrees Patel:所以我想问的一件事是弱光摄影。与过去几年一样,[OEM实现的]夜间模式已经很多,但我注意到的一件事是,许多设备制造商都在积极降低噪音,以降低细节,甚至达到亮度。噪音已消除。

所以我的问题是,高通是否建议任何设备制造商不要这样做,这是他们的处理流水线所采取的措施,还是受SoC中ISP的影响。

Judd Heape:其中很多与调校有关,如果没有多帧,或者我想说的是,没有一个非常好的图像传感器,它具有高灵敏度或低f值的光学元件。尤其是在弱光下消除噪点的一种方法是应用更​​多的降噪功能,但是当您应用更多的降噪功能时,会发生细节丢失的情况,从而使锐利的边缘变得模糊。现在,如果应用这些多帧技术,您就可以摆脱它。或者,如果您应用AI技术,则可以弄清楚物体和面孔的边缘在哪里以及类似的东西。因此,在当今时代,仅采用强力降噪并不是解决问题的真正方法,因为最终会丢失细节。

您想要做的是做多帧技术或AI技术,以便您仍可以将降噪应用于对象的内部区域,同时保持对象的边缘干净整洁或锐利。所以我要说的是:使用AI或多帧是减少噪声并改善低光下图像质量的方法。

Idrees Patel:是的,这正是我想听到的。[因为]这是将出色的智能手机相机与中级或预算级相机区分开的主要内容。

贾德·希普(Judd Heape):是的。

Idrees Patel:出色的智能手机相机知道何时应用降噪,何时不应用降噪。

Judd Heape:好的。是的,就像我说的那样,相机调整实际上是由我们的客户或OEM完成的,有些OEM希望图像更柔和,噪点更少。有些人喜欢用更多的噪音揭示更多细节。

因此,这是一个折衷,因此您有局限性。就像我说的最好的做法是,要获得一个具有更高灵敏度,更大像素或更低f值光学器件的更好的图像传感器,因为这样一来,您就会获得更多的光线,这总是更好。但是,如果您无法做到这一点,那么您要做的不仅仅是使用降噪和丢失细节,还需要使用多帧或AI技术。

分析和背景:我认为,这是目前智能手机相机面临的最大问题。是的,您可以使用48MP或64MP甚至108MP传感器。但是,如果您不选择通过MFNR或AI技术使用受限的降噪功能,那么所有这些百万像素,4合1合并甚至9合1合并都没有太大用处。Galaxy S20 Ultra是此处的主要示例,因为其108MP主摄像头在很大程度上令人失望。三星通过在其2020年旗舰产品的夜间模式中使用极具侵略性的降噪功能,在图像处理方面向后退,而具有讽刺意味的是,2019年的Galaxy S10系列具有更好的图像质量。

贾德(Judd)透露,有些OEM厂商实际上更喜欢噪点更少的柔和图像,这从根本上来说是错误的选择。调整是由设备制造商进行的,因此,使用相同传感器并由相同SoC供电的两部手机可以输出非常不同的照片。必须希望这些设备制造商从性能更好的竞争对手那里了解真相。虽然三星今年在图像处理方面迷失了方向,但OnePlus却形成了鲜明的对比。OnePlus 8 Pro是市场上最好的智能手机相机之一,考虑到2017年OnePlus 5T相机的输出非常差,这是一个了不起的成就。图像处理的思维方式必须改变,以使照片变得清晰,没有百万像素大战在不断加剧。

AV1解码和编码

Mishaal Rahman:因此,这与我们对相机质量的其他讨论有点不同。开源媒体编解码器社区中的一些人一直想知道的一件事是,高通公司何时将支持AV1解码以及可能的编码。我知道有些麻烦,但Google要求Android 10上的4K HDR和8K电视支持AV1解码,而Netflix,YouTube则开始推出以AV1编码的视频。因此,看起来AV1编码视频的增长缓慢。因此,我们想知道Spectra何时至少将提供解码支持。

高通的声明:根据您对AV1的问题-我们今天没有什么要宣布的。但是,Snapdragon当前可以通过软件播放AV1。高通公司一直通过软件和硬件与合作伙伴合作开发下一代编解码器,从而使Snapdragon成为HDR编解码器的领导者,包括在HEIF,HLG,HDR10,HDR10 +和Dolby Vision中的捕获和回放。当然,我们意识到要为客户带来最佳的编解码器体验,包括对高分辨率和最低功耗的支持,因此需要在硬件中实现这些。

录像–运动补偿

Mishaal Rahman:所以我不知道Idrees是否还有其他问题,但是我确实对在Snapdragon技术峰会上读到的内容有一个问题。它是关于运动补偿视频核心的。我听说运动补偿引擎有一些改进,可以减少视频录制时的噪音。我想知道您是否可以扩展它到底做了什么改进和做了什么。

Judd Heape:EVA(视频分析引擎)引擎已得到改进,具有更密集的运动贴图核心,因此,例如,您知道EVA引擎始终在查看传入的视频,并且其中有一个正在做运动的核心估计。我们所做的是,使该核心几乎在每个像素级别上都更加精确,而不是像更粗糙的块级别那样,因此我们从中获得了更多的运动矢量。 Snapdragon 865中的EVA引擎比我们前几代人都多。这意味着进行编码的视频核心可以使用这些运动矢量来更准确地进行编码,但是摄像头一侧的ISP也使用该信息来降低噪声。

众所周知,几代人都拥有运动补偿的时间滤波,这实际上是视频期间的主动降噪,它可以将帧随时间平均以消除噪声。

但是,这种技术的问题在于场景中是否有运动。运动最终由于无法处理或被涂抹而最终被减少噪音所拒绝,并且在移动物体时会遇到这些难看的痕迹和伪影。因此,在运动补偿的时间滤波中,由于我们没有用于局部运动的密集运动图,所以我们过去所做的就是-仅处理摄像机移动时的情况,这很容易,因为一切都在向全球移动。

但是,如果您正在拍摄某些东西,并且有一个物体在场景中移动,那么我们之前所做的就是[忽略]那些像素,因为我们无法对其进行噪声处理,因为它是一个局部移动的物体。因此,如果您逐帧取平均,则对象在每一帧都位于不同的位置,因此您无法真正对其进行处理。

但是在Snapdragon 865上,因为我们拥有更密集的运动图,并且能够几乎逐个像素地查看运动矢量,所以我们实际上能够逐帧处理那些局部移动的像素,以降低噪声,而在我们做不到之前。我想我在谈话中提到了一个指标。我不记得这个数字(它是40%),但是对于大多数现在可以进行噪声处理的视频而言,平均像素比例很大,而在上一代中则不能。这实际上部分在于能够理解局部运动而不仅仅是全局运动。

录像– HDR

Idrees Patel:我还有一个关于HDR视频的问题。今年,我看到更多的设备制造商提供HDR10视频录制。Snapdragon 865促进了它的发展,或者它已经存在了好几代了。

Judd Heape:哦,是的,因此,在技术峰会上我们谈到了HDR10,这是自几代以来在相机编码方面HDR的视频标准,自Snapdragon 845以来,我相信,我们ve不断地改善它。

因此,去年,我们谈到了HDR10 +,这是10位HDR录制,但是它不是动态元数据,而是静态元数据,因此,摄像机在场景中捕获的元数据实际上是实时记录的,因此当您回放它,回放引擎可以知道是黑暗的房间还是明亮的房间,并且可以对此进行补偿。

去年我们在技术峰会上也谈到了杜比视觉捕捉技术,它是杜比HDR10 +的替代产品。它们实际也产生动态元数据的地方非常相似。因此,Snapdragon现在可以支持所有这三种格式:HDR10,HDR10 +和Dolby Vision捕获。因此,实际上没有任何限制,我们的OEM可以选择他们喜欢的任何一种方法。我们已经有一段时间使用HDR10的客户了,并且去年和今年有越来越多的客户选择HDR10 +。而且我认为,将来您还会看到Dolby Vision Capture的一些采用。

是的,我们一直在大力推广。HDR对我们而言非常重要,无论是在快照方面还是在视频方面。就像我说的,我们一直致力于HDR10和HDR10 +以及现在的Dolby Vision格式,您知道自Snapdragon 845以来,甚至是最近用于Dolby Vision的Snapdragon 865。

Mishaal Rahman:另外,我实际上还不确定是否有任何厂商实施了Dolby Vision录制,但是我想这可以回答这个问题。这就是我们将来会看到的东西。

贾德·希佩(Judd Heape):当然–我无法评论哪些供应商对此感兴趣。对于杜比来说,这将是一个问题。这是他们的功能,因此,如果您需要更多有关此的信息,我建议您与杜比联系。但是到目前为止,据我所知,还没有杜比视界捕捉技术推出手机。

Idrees Patel:因为您还需要显示支持。我注意到智能手机显示器支持HDR10和HDR10 +,但不支持Dolby Vision。

Judd Heape:是的,但是过去,Snapdragon支持Dolby Vision播放。它可以与给定的显示器一起使用,并且显示器不一定要符合Dolby Vision的任何特定标准,除了Dolby可以对显示器进行分级并确保其具有一定的色域,伽玛,一定的位深,一定的亮度和一定的对比度。

因此,您知道,您可以购买HDR10显示器,但也可以购买支持Dolby Vision播放的手机,但是Doby将对该显示器进行鉴定,以确保其符合其严格的要求。

与软件供应商的合作:Imint,Morpho和Arcsoft

Mishaal Rahman:我想跟进的一个问题是,我们最近与之交谈的一家公司是Imint,以便进行更多的研究。他们最近升级了Vidhance Stabilization软件,使其可以与Spectra 480一起使用。我知道你们与许多公司合作,他们也利用Spectra 480的处理能力。我想知道您是否能够披露这些技术的更多示例,或者与您合作的合作伙伴,以便我们可以跟进,以了解有关如何使用Spectra 480的更多信息。在该领域。

Judd Heape:我们与许多软件供应商合作。就像我们过去提到的那样,杜比就是其中之一。像您提到的其他还有EIM(电子图像稳定)的Imint / Vidhance。我们之前也提到过Morpho和Arcsoft,我们也与他们紧密合作。

至于我们如何与他们合作,我们的政策是我们真的希望与这些独立软件供应商紧密合作,并确保他们在软件中所做的任何事情都能够利用Snapdragon中的硬件来完成。获得最低的功耗。

因此,我们与这些供应商一起做的一件事情是,确保他们对HVX引擎或Hexagon DSP内核的访问非常好。他们还使用EVA引擎获取运动矢量,并使用硬件和EVA引擎进行图像处理,以便他们可以在硬件中执行图像移动,平移和变形等操作,而不是使用GPU要做到这一点。

因此,我们确实与这些ISV(尤其是我特别提到的ISV)紧密合作,以确保它们不仅将所有内容和软件都放入CPU中,而且还在EVA中使用诸如DSP和硬件加速器之类的东西以获得更好的性能和更低的功耗。因此,这对我们也很重要,因为它为我们的客户提供了功能和功耗的最佳组合。

[Judd的总结发言]:我只想说,谢谢大家提出的所有非常好的问题。它们非常非常详细。我已经在高通公司工作了大约三年,回顾过去,甚至在我在Snapdragon 845之前就开始使用Spectra的任职期间,我们都在努力工作,以极大地改善ISP,相机和整个体验在过去的几年中。我对未来的到来感到非常兴奋。对于我们将在未来的技术峰会上宣布的内容,我感到很兴奋,大家可以提出疑问并写信。在我看来,[Spectra Camera]可能是高通最激动人心的技术之一。

最后的想法

与Judd讨论高通对智能手机摄影的贡献真是太好了。我们对公司及其专利许可系统可能会有不同的感觉,但是无论您谈论专利,4G和5G,Wi-Fi,Adreno GPU,Spectra ISP和专利,每个人都可以感受到高通在智能手机行业的烙印。 Snapdragon芯片本身,在很大程度上已成为Android智能手机市场的黄金标准。

智能手机摄影仍有许多痛点需要解决,但高通承诺将在推动人工智能的ML广阔且不断发展的领域中取得更大进步,因此前途一片光明。让我们看看高通在下一届Snapdragon技术峰会上将在此领域宣布什么。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。