大数据NiFi(三):NiFi关键特性

来源: 腾讯云 时间:2023-01-04 08:11:05

NiFi关键特性

一、​​​​​​​​​​​​​​流管理

保证交付:

NIFI的核心理念是,即使在非常大的规模下,也必须保证交付。这是通过有效地使用Write-Ahead Log和content repository来实现的。它们一起被设计成具备允许非常高的事务速率、有效的负载分布、写时复制和发挥传统磁盘读/写的优势。

基于背压的数据缓冲和背压释放

NiFi支持所有排队数据的缓冲以及当这些队列达到指定限制时提供背压的能力,或者指定过期时间,当数据达到指定期限时丢弃数据的能力

队列优先级

NiFi允许设置一个或多个优先级方案,用于如何从队列中检索数据。默认情况是先进先出,但有时应该首先提取最新的数据(后进先出)、最大的数据先出或其他定制方案。可以为每一个connection配置队列的优先级。


【资料图】

特殊流质量保证(容错、高吞吐、低延迟)

经常有一些数据是非常重要的不能够丢失,以及需要进行低延迟处理的。NiFi能够为这些数据流提供质量保障服务。

​​​​​​​​​​​​​​二、易用性

可视化控制流程

数据流的处理逻辑和过程可能会非常复杂。能够可视化这些流程并以可视的方式来表达它们可以极大地帮助用户降低数据流的复杂度,并确定哪些地方需要简化。NiFi可以实现数据流的可视化建立,而且是实时的。并不是“设计、部署”,它更像泥塑。如果对数据流进行了更改,更改就会立即生效,并且这些更改是细粒度的和组件隔离的。用户不需要为了进行某些特定修改而停止整个流程或流程组。

流模板

由于数据流是高度面向模式的,并且在解决一个问题时会有多种不同的方式,能够共享一些好的通用处理模板将对用户会有很大的帮助。模板功能允许用户构建、发布设计模板,并共享给其他人。

数据跟踪

NiFi自动记录、索引对于数据流的每个操作日志,并可以把可用的跟踪数据作为对象在系统中传输。这些信息能够在系统故障诊断、优化等其他场景中发挥重要作用。

记录/恢复细粒度的历史数据

NiFi的content repository被设计成历史滚动缓冲区的角色。数据仅仅在超时或者空间不足时被从content repository中删除。此项功能与data provenance(数据跟踪)功能一起,可以提供一项非常有用的基础功能,即用户能够对中间过程的内容进行下载和回放。

​​​​​​​​​​​​​​三、安全性

系统之间传递数据安全

NiFi可以通过双向SSL进行数据加密。并且可以允许在发送与接收端使用共享秘钥,及其他机制对数据流进行加密与解密。

用户访问系统安全

NiFi允许双向SSL认证可以控制用户的登录权限(例如:只读权限、数据流管理者、系统管理员)。如果用户在flow中输入敏感信息(如密码),则会立即加密服务器端,即使是加密形式也不会再暴露在客户端。

多租户使用安全

指定数据流的权限适用于每个组件,允许管理员用户具有细粒度的访问控制。这意味着每个NiFi集群都能够处理一个或多个组织的要求。与隔离方式相比,多租户授权支持数据流管理的自助服务模型,允许每个团队或组织在完全了解流的其余部分的情况下管理流,而无法访问流。

​​​​​​​​​​​​​​四、灵活的扩展模型

横向扩展

NiFi可以通过将许多节点聚集在一起以集群的方式实现横向扩展。如果单节点被配置为每秒处理数百MB的数据,则集群方式可以达到每秒处理GB级别。

扩展和缩小

NiFi还可以非常灵活地扩展和缩小。从NiFi框架的角度来看,如果要增加吞吐,可以在配置时增加"Scheduling"选项卡下processor的并发任务数。这允许更多进程同时执行,从而提供更高的吞吐。 另一方面,您可以完美地将NiFi缩小到适合在边缘设备上运行,因为硬件资源有限,所需的占用空间很小。这种情况下可以使用MiNiFi。

上一篇:

下一篇:

X 关闭

热门推荐

北京环球度假区年卡下周四开售

2023-01-04   钛媒体快报

讯息:中国十五冶16项工法获评部级施工工法

2023-01-04   中国产业经济信息网

天天快讯:重庆机床集团迎来白俄罗斯考察团

2023-01-04   中国产业经济信息网

5700x满载功耗实测_5700xm

2023-01-04   万能网

鹩哥说话40分钟_鹩哥吃什么

2023-01-03   万能网

手机壁纸_手机易查网

2023-01-03   万能网

每日短讯:systemappremover

2023-01-03   万能网

CSNS工程材料中子衍射谱仪成功出束

2023-01-03   中国网·中国发展门户网

守正创新,突破无界:康基医疗品牌焕新升级

2023-01-03   中国产业经济信息网

房山区将新增中小学学位2660个

2023-01-03   北青都市

这个年,五个女博士陪你和妈妈一起岁月静好

2023-01-03   中国产业经济信息网

当前资讯!叶沙篮球队_叶沙

2023-01-03   万能网

多情的土地原唱_多情邪皇

2023-01-03   万能网

python之办公自动化_精选

2023-01-03   腾讯云

经年的意思_经年的意思

2023-01-03   万能网

2022年电网十大新闻

2023-01-03   中国能源报

高强耐蚀不锈钢及运煤专用敞车成功首发

2023-01-03   中国产业经济信息网

日常生活:后鼻韵母有哪些

2023-01-02   万能网

怎么败火比较快_怎么败火

2023-01-02   万能网

pspdp_pspdisp

2023-01-02   万能网

游园玩冰过新年 环球看热讯

2023-01-02   中国青年报

北京买房:理清思路,购房建议700

2023-01-02   章哥说买房

全球聚焦:国家能源集团集中开工10个电力项目

2023-01-02   中国产业经济信息网

瓦轴集团和德国马尔组建联合实验室

2023-01-02   中国产业经济信息网

设计时速350公里!广湛高铁成功“穿海入城”

2023-01-02   中国产业经济信息网

Copyright   2015-2022 中国行业信息网版权所有  备案号:   联系邮箱:29 59 11 57 8@qq.com