推荐阅读:《探索 Sora:视频制作的魔法 [译]》
译文:https://t.cn/A6Y9MY4d
原文:https://t.cn/A6Y9MY4D
Sora 的视频效果之惊艳让人难以置信,我因此深入探究了其背后的技术原理。它采用了两种技术:一是扩散技术(从随机噪声出发,逐步精细化至目标视频),二是 Transformer 架构(负责处理视频帧的连续序列)。让我们一探究竟吧!
以这样一个例子开始:提示词为“一朵花在郊区房屋的窗台上生长的定格动画”。Sora 并不是直接将文本转换成视频帧,而是通过处理时空补丁来实现。
这些时空补丁能够同时捕捉到发生的事件(空间)以及事件发生的时间(时间),就像是微小的视频碎片组成的拼图。
想象一下,如果把视频比作一个巨大的长方体(包含空间和时间的维度),Sora 就是通过将这个长方体切割成许多小块,每一小块都代表了一段特定的空间和时间。
以我们的例子为例:首先,Sora 分析描述,识别出关键元素:
物体(即将绽放的花朵和沐浴在阳光下的窗台)
行为(花朵随着时间的推移而展开)
地点(位于郊区的场景)
甚至是艺术风格(定格动画的特点)。
然后是时空补丁的处理。对于渴望绽放的花朵,阳光照耀的窗台,以及花朵随时间缓慢生长的过程,每一个场景都被转化成一个个补丁,这些补丁随着视频场景的展开而逐渐演变。
这些补丁并非随意的片段。为了能够将它们有条不紊地组合起来,Sora 内置了知识图谱。这些数据库内含了物理世界的信息、物体间如何相互作用,乃至于艺术风格的各种数据。
Sora 能够洞察到:
花朵是如何一瓣一瓣地自然生长的,
它如何随着时间的推移与阳光发生互动,
以及如何保持定格动画特有的逐帧变换效果。
这些独立的画面片段共同构成了一幅充满噪点的画布。
随后,扩散模型技术将这些噪点密集、抽象的画面片段逐步精细化,直到展现出它们最终的样貌。花瓣逐渐形成,阳光变得更加清晰,而定格动画的风格也像是在逐帧绘制中一步步浮现。
在处理这些独立片段的同时,变换器技术分析着不同画面之间随时间变化的相互关系。这样,花朵能够平滑地成长,阳光自然地转换,整个视频中定格动画的风格也得以始终如一地保持。这一切,都是通过逐个像素的精细调整实现的。
它能够处理多种视频相关的任务:
然而,尽管如此,我们还有很长的路要走。目前它还不能精确地模拟许多基本互动的物理特性,比如这里女人挥手时的不自然手势,有人形象地将其描述为“试图在三维空间里表现得像人类的超维度外星人”。
译文:https://t.cn/A6Y9MY4d
原文:https://t.cn/A6Y9MY4D
Sora 的视频效果之惊艳让人难以置信,我因此深入探究了其背后的技术原理。它采用了两种技术:一是扩散技术(从随机噪声出发,逐步精细化至目标视频),二是 Transformer 架构(负责处理视频帧的连续序列)。让我们一探究竟吧!
以这样一个例子开始:提示词为“一朵花在郊区房屋的窗台上生长的定格动画”。Sora 并不是直接将文本转换成视频帧,而是通过处理时空补丁来实现。
这些时空补丁能够同时捕捉到发生的事件(空间)以及事件发生的时间(时间),就像是微小的视频碎片组成的拼图。
想象一下,如果把视频比作一个巨大的长方体(包含空间和时间的维度),Sora 就是通过将这个长方体切割成许多小块,每一小块都代表了一段特定的空间和时间。
以我们的例子为例:首先,Sora 分析描述,识别出关键元素:
物体(即将绽放的花朵和沐浴在阳光下的窗台)
行为(花朵随着时间的推移而展开)
地点(位于郊区的场景)
甚至是艺术风格(定格动画的特点)。
然后是时空补丁的处理。对于渴望绽放的花朵,阳光照耀的窗台,以及花朵随时间缓慢生长的过程,每一个场景都被转化成一个个补丁,这些补丁随着视频场景的展开而逐渐演变。
这些补丁并非随意的片段。为了能够将它们有条不紊地组合起来,Sora 内置了知识图谱。这些数据库内含了物理世界的信息、物体间如何相互作用,乃至于艺术风格的各种数据。
Sora 能够洞察到:
花朵是如何一瓣一瓣地自然生长的,
它如何随着时间的推移与阳光发生互动,
以及如何保持定格动画特有的逐帧变换效果。
这些独立的画面片段共同构成了一幅充满噪点的画布。
随后,扩散模型技术将这些噪点密集、抽象的画面片段逐步精细化,直到展现出它们最终的样貌。花瓣逐渐形成,阳光变得更加清晰,而定格动画的风格也像是在逐帧绘制中一步步浮现。
在处理这些独立片段的同时,变换器技术分析着不同画面之间随时间变化的相互关系。这样,花朵能够平滑地成长,阳光自然地转换,整个视频中定格动画的风格也得以始终如一地保持。这一切,都是通过逐个像素的精细调整实现的。
它能够处理多种视频相关的任务:
然而,尽管如此,我们还有很长的路要走。目前它还不能精确地模拟许多基本互动的物理特性,比如这里女人挥手时的不自然手势,有人形象地将其描述为“试图在三维空间里表现得像人类的超维度外星人”。
郁金香种植方法
1. 选种与处理:郁金香种球需要经过低温处理,5℃或者9℃处理最为合适。把经过低温处理的种球浸泡在消毒溶液(福尔马林、多菌灵溶液都可以)中30分钟左右即可完成消毒工作。
2. 土壤准备:郁金香适宜生长在疏松、排水良好的土壤中。适当混合一些缓释复合肥做基肥也行,专业点的,可以用腐叶土6份、沙土3份、腐熟厩肥1份混均配制。
3. 种植时间与深度:郁金香的种植时间一般在秋季,在每年的10月下旬进行种植最佳。此时气温逐渐降低,有利于种子的休眠和生长。将种球直立放在花盆正中位置,种植深度一般为种球大小的1.5倍就行。花盆大小决定一盆种植几棵。一般20cm的盆可以三角状种植3株。
4. 浇水与施肥:一般郁金香种植后立即浇一次透水,此后保持土壤湿润直到郁金香发芽。郁金香萌芽出土后,可每10天左右施1次稀薄液肥,孕蕾至开花前增施1次磷钾肥。
5. 光照与温度:郁金香需要栽培于全日照或半日照环境,全日照时需注意温度是否会太高,太热易使花苞萎缩。不建议种植在室内照不到阳光的地方,即使有人工光源,与阳光还是不同,球根无法进行光合作用,会导致植株虚弱,甚至不会开花。
6. 养护技巧:冬季鳞茎生根,春季开花前,追肥2次。3月底至4月初开花,6月初地上部叶片枯黄进入休眠。生长过程中一般不必浇水,保持土壤湿润即可,天旱时适当浇些水。
1. 选种与处理:郁金香种球需要经过低温处理,5℃或者9℃处理最为合适。把经过低温处理的种球浸泡在消毒溶液(福尔马林、多菌灵溶液都可以)中30分钟左右即可完成消毒工作。
2. 土壤准备:郁金香适宜生长在疏松、排水良好的土壤中。适当混合一些缓释复合肥做基肥也行,专业点的,可以用腐叶土6份、沙土3份、腐熟厩肥1份混均配制。
3. 种植时间与深度:郁金香的种植时间一般在秋季,在每年的10月下旬进行种植最佳。此时气温逐渐降低,有利于种子的休眠和生长。将种球直立放在花盆正中位置,种植深度一般为种球大小的1.5倍就行。花盆大小决定一盆种植几棵。一般20cm的盆可以三角状种植3株。
4. 浇水与施肥:一般郁金香种植后立即浇一次透水,此后保持土壤湿润直到郁金香发芽。郁金香萌芽出土后,可每10天左右施1次稀薄液肥,孕蕾至开花前增施1次磷钾肥。
5. 光照与温度:郁金香需要栽培于全日照或半日照环境,全日照时需注意温度是否会太高,太热易使花苞萎缩。不建议种植在室内照不到阳光的地方,即使有人工光源,与阳光还是不同,球根无法进行光合作用,会导致植株虚弱,甚至不会开花。
6. 养护技巧:冬季鳞茎生根,春季开花前,追肥2次。3月底至4月初开花,6月初地上部叶片枯黄进入休眠。生长过程中一般不必浇水,保持土壤湿润即可,天旱时适当浇些水。
【局部暴雨,持续阴雨(雪)或冻雨!
8
今天上午北方冷空气已经到达杭州,气温已经开始明显下降,偏北风也会逐渐增大。杭州市气象台2月21日10时30分发布的强冷空气消息:强冷空气主体已影响我市,我市将有降温、降雨和风力增大过程,22-26日最低气温平原地区0~3℃,山区0~-4℃;今天最大偏北风平原地区5-7级,江湖水面及高山区最大8-9级,请各有关方面注意。
气温预测:持续偏低,22-26日最低气温平原地区0~3℃,山区0~-4℃,有冰冻,最高气温3~6℃。
风力预测:今天至23日上午全市大部地区有5~7级偏北风,其中高山区和江湖水面最大风力8~9级;23日下午起风力逐渐减小。
降雨预测:受冷暖气流共同影响,预计月底前我市将持续阴雨天气。其中今天白天有中到大阵雨或雷雨,淳安、建德、桐庐、临安等地局部有暴雨,夜里到明天上午转小雨,南部县市部分中雨,明天中午至26日以间歇性小雨为主。
降雪或冻雨:今天夜里山区局部有雨夹雪或雪,高山区局部冻雨。明天下午起阴有时有小雨,山区局部有雨夹雪或雪,高山区局部冻雨,23~26日的高山区局部还可能会有雨夹雪或冻雨天气。
为什么杭州还没有入春?
过去10天里杭州有7天的平均气温超过了10℃,14日、18日、19日这三天分别达到了16.6℃、17.3℃、18.5℃,连续5天的滑动平均气温已经达到了入春的气象条件,但是事实上杭州也并未真正入春。今天开始杭州气温持续走低,预计月底前都是低温阴雨(雪)为主,平均气温连续5天以上会低于10℃,难道杭州又入冬了?针对这种情况,气象上的入春标准需要稳定通过才行,要求在以后的时间里(整个春季)不允许再出现连续5天的平均气温小于10℃的情况,即所谓的“稳定在10℃以上”。
为什么高山区有雨夹雪或冻雨!
这次的冷空气来势并不凶猛,高空的冷空气并不强,3000米左右的高度水汽充足,而且气温高,很容易形成降雨。冷空气主要来自中低空,但是降温效果确是杠杠滴。因为冷空气来自东北,由于基础气温低,加上影响时间长,杭州中低空以及近地面会有明显降温,杭州高山区的最低气温将会低于-2℃,高空的雨水到了高山区就可能成为雨夹雪或冻雨。
这次的连阴雨不简单!
这次的连阴雨持续时间较长,预计到月底之前很难见到太阳了,要有也是极其短暂的阳光。最强的降雨是今天白天到夜里,其它时间大都以间歇性的小雨为主。由于冷空气持续影响,所以降温明显。总之月底前杭州气温低、湿度大、阴雨天多,风力强,寒冷的感觉比较明显!
重点关注:
1、今天 淳安、建德、桐庐、临安等地局部有短时暴雨,需防范短时强降水可能引发的山体滑坡等地质灾害;
2、月底前多低温阴雨天气,山区有雨夹雪、雪或冻雨,并伴有冰冻,请注意对春运交通、农业生产、能源保供等的不利影响;
3、气温持续下降,请注意气温波动对人体健康的影响。
强冷空气消息:强冷空气主体已影响我市,我市将有降温、降雨和风力增大过程,22-26日最低气温平原地区0~3℃,山区0~-4℃;今天最大偏北风平原地区5-7级,江湖水面及高山区最大8-9级,请各有关方面注意。
市区天气预报:今天白天阴有中到大阵雨或雷雨,今天夜里到明天上午阴有小雨,明天下午到后天阴有时有小雨。今天偏北风逐渐增大至5-6级阵风7级。明天白天最高气温5度,明天早晨最低气温2度。明天平均相对湿度90%。杭州市气象台2月21日10时30分发布。
昨日最高气温:15.4℃
今日最低气温:6.0℃(截至11时)
明天日出日落时间:日出6:33日落17:52
趋势预报:
22日:上午阴有小雨,下午到夜里阴有时有小雨,2~5℃,北风5~6级阵风7级;
23日:阴有时有小雨,2~5℃,北风3~4级阵风5级;
24日:阴有时有小雨,2~5℃,北风3~4级;
25日:小雨渐止转阴到多云,2~5℃,北风3~4级;
26日:阴有时有小雨,0~6℃,北风3~4级;
27日:多云到阴,有时有小雨,0~8℃,东北风3~4级;。
杭州市气象台2月21日11时发布
省内天气
今天中午到夜里:浙中北地区阴有中到大阵雨或雷雨,局部暴雨;其它地区多云转阴有阵雨,局部雷雨。
明天:全省阴有阵雨,其中浙中南地区部分中雨,局部大雨。
后天:全省阴有时有小雨。
其中今天夜里到后天西北山区局部有冻雨。
全国天气
(1)明天,西北地区中东部、河南南部、江淮、江汉、江南北部和西部、重庆东部、川西高原、青藏高原大部等地部分地区有小到中雪,其中,安徽中部、江苏中部、西藏东南部等地部分地区有大到暴雪(10~12毫米)。江南东北部、西藏东南部等地部分地区有中到大雨。(2)后天,甘肃南部、陕西东南部、黄淮西部、江淮、江汉、江南北部、青海东南部、西藏东部和南部等地部分地区有小到中雪或雨夹雪,其中,西藏东南部等地局地有大到暴雪。西藏东南部、云南西北部等地部分地区有中到大雨。
空气质量预报
今天杭州市区AQI:25到45,首要污染物:无,空气质量等级:优。
人体健康指数
今天容易诱发感冒、皮炎和高血压等。
森林火险等级
今天1级,森林火险气象等级低。
8
今天上午北方冷空气已经到达杭州,气温已经开始明显下降,偏北风也会逐渐增大。杭州市气象台2月21日10时30分发布的强冷空气消息:强冷空气主体已影响我市,我市将有降温、降雨和风力增大过程,22-26日最低气温平原地区0~3℃,山区0~-4℃;今天最大偏北风平原地区5-7级,江湖水面及高山区最大8-9级,请各有关方面注意。
气温预测:持续偏低,22-26日最低气温平原地区0~3℃,山区0~-4℃,有冰冻,最高气温3~6℃。
风力预测:今天至23日上午全市大部地区有5~7级偏北风,其中高山区和江湖水面最大风力8~9级;23日下午起风力逐渐减小。
降雨预测:受冷暖气流共同影响,预计月底前我市将持续阴雨天气。其中今天白天有中到大阵雨或雷雨,淳安、建德、桐庐、临安等地局部有暴雨,夜里到明天上午转小雨,南部县市部分中雨,明天中午至26日以间歇性小雨为主。
降雪或冻雨:今天夜里山区局部有雨夹雪或雪,高山区局部冻雨。明天下午起阴有时有小雨,山区局部有雨夹雪或雪,高山区局部冻雨,23~26日的高山区局部还可能会有雨夹雪或冻雨天气。
为什么杭州还没有入春?
过去10天里杭州有7天的平均气温超过了10℃,14日、18日、19日这三天分别达到了16.6℃、17.3℃、18.5℃,连续5天的滑动平均气温已经达到了入春的气象条件,但是事实上杭州也并未真正入春。今天开始杭州气温持续走低,预计月底前都是低温阴雨(雪)为主,平均气温连续5天以上会低于10℃,难道杭州又入冬了?针对这种情况,气象上的入春标准需要稳定通过才行,要求在以后的时间里(整个春季)不允许再出现连续5天的平均气温小于10℃的情况,即所谓的“稳定在10℃以上”。
为什么高山区有雨夹雪或冻雨!
这次的冷空气来势并不凶猛,高空的冷空气并不强,3000米左右的高度水汽充足,而且气温高,很容易形成降雨。冷空气主要来自中低空,但是降温效果确是杠杠滴。因为冷空气来自东北,由于基础气温低,加上影响时间长,杭州中低空以及近地面会有明显降温,杭州高山区的最低气温将会低于-2℃,高空的雨水到了高山区就可能成为雨夹雪或冻雨。
这次的连阴雨不简单!
这次的连阴雨持续时间较长,预计到月底之前很难见到太阳了,要有也是极其短暂的阳光。最强的降雨是今天白天到夜里,其它时间大都以间歇性的小雨为主。由于冷空气持续影响,所以降温明显。总之月底前杭州气温低、湿度大、阴雨天多,风力强,寒冷的感觉比较明显!
重点关注:
1、今天 淳安、建德、桐庐、临安等地局部有短时暴雨,需防范短时强降水可能引发的山体滑坡等地质灾害;
2、月底前多低温阴雨天气,山区有雨夹雪、雪或冻雨,并伴有冰冻,请注意对春运交通、农业生产、能源保供等的不利影响;
3、气温持续下降,请注意气温波动对人体健康的影响。
强冷空气消息:强冷空气主体已影响我市,我市将有降温、降雨和风力增大过程,22-26日最低气温平原地区0~3℃,山区0~-4℃;今天最大偏北风平原地区5-7级,江湖水面及高山区最大8-9级,请各有关方面注意。
市区天气预报:今天白天阴有中到大阵雨或雷雨,今天夜里到明天上午阴有小雨,明天下午到后天阴有时有小雨。今天偏北风逐渐增大至5-6级阵风7级。明天白天最高气温5度,明天早晨最低气温2度。明天平均相对湿度90%。杭州市气象台2月21日10时30分发布。
昨日最高气温:15.4℃
今日最低气温:6.0℃(截至11时)
明天日出日落时间:日出6:33日落17:52
趋势预报:
22日:上午阴有小雨,下午到夜里阴有时有小雨,2~5℃,北风5~6级阵风7级;
23日:阴有时有小雨,2~5℃,北风3~4级阵风5级;
24日:阴有时有小雨,2~5℃,北风3~4级;
25日:小雨渐止转阴到多云,2~5℃,北风3~4级;
26日:阴有时有小雨,0~6℃,北风3~4级;
27日:多云到阴,有时有小雨,0~8℃,东北风3~4级;。
杭州市气象台2月21日11时发布
省内天气
今天中午到夜里:浙中北地区阴有中到大阵雨或雷雨,局部暴雨;其它地区多云转阴有阵雨,局部雷雨。
明天:全省阴有阵雨,其中浙中南地区部分中雨,局部大雨。
后天:全省阴有时有小雨。
其中今天夜里到后天西北山区局部有冻雨。
全国天气
(1)明天,西北地区中东部、河南南部、江淮、江汉、江南北部和西部、重庆东部、川西高原、青藏高原大部等地部分地区有小到中雪,其中,安徽中部、江苏中部、西藏东南部等地部分地区有大到暴雪(10~12毫米)。江南东北部、西藏东南部等地部分地区有中到大雨。(2)后天,甘肃南部、陕西东南部、黄淮西部、江淮、江汉、江南北部、青海东南部、西藏东部和南部等地部分地区有小到中雪或雨夹雪,其中,西藏东南部等地局地有大到暴雪。西藏东南部、云南西北部等地部分地区有中到大雨。
空气质量预报
今天杭州市区AQI:25到45,首要污染物:无,空气质量等级:优。
人体健康指数
今天容易诱发感冒、皮炎和高血压等。
森林火险等级
今天1级,森林火险气象等级低。
✋热门推荐