首页 » 建站教程 » 能简单通俗的解释一下什么是大数据吗「数据挖掘web数据库是什么」

能简单通俗的解释一下什么是大数据吗「数据挖掘web数据库是什么」

访客 2024-10-13 0

扫一扫用手机浏览

文章目录 [+]

能简单通俗的解释一下什么是大数据

这是一个非常好的问题,作为一名大数据从业者,我来回答一下。

在当前的大数据时代,不仅IT(互联网)行业的人需要了解大数据相关知识,传统行业的从业者和普通大学生也都应该了解一定的大数据知识,在产业互联网和新基建计划的推动下,未来大数据技术将全面开始落地应用,大数据也将重塑整个产业结构。

能简单通俗的解释一下什么是大数据吗「数据挖掘web数据库是什么」 能简单通俗的解释一下什么是大数据吗「数据挖掘web数据库是什么」 建站教程

了解大数据首先要从大数据的概念开始,不同于人工智能概念,大数据概念还是相对比较明确的,而且大数据的技术体系也已经趋于成熟了。解释大数据概念,可以从数据自身的特点入手,然后进一步从场景、应用和行业来逐渐展开。

能简单通俗的解释一下什么是大数据吗「数据挖掘web数据库是什么」 能简单通俗的解释一下什么是大数据吗「数据挖掘web数据库是什么」 建站教程
(图片来自网络侵删)

大数据自身的特点往往集中在五个方面,分别是数据量、数据结构多样性、数据价值密度、数据增长速度和可信度,对于这五个维度的理解和认知,是了解大数据概念的关键。当然,随着大数据技术的发展和在行业领域的应用,关于数据自身的维度也有了一定程度的扩展,这些扩展本身也是对大数据概念的一种丰富和完善。

数据量大是大数据的一个重要特征,但是数据量本身是一个汇集的概念,并不是只有很大的数据才称为大数据,传统信息系统所产生的“小数据”也是大数据的一个重要组成部分,这一点一定要有清晰的认知。当前从大数据的数据来源来看,主要集中在三个渠道,包括互联网、物联网和传统信息系统,物联网数据当前占据的比例比较大,相信在5G时代,物联网将依然是大数据的主要数据来源。

数据结构多样性是大数据的另一个重要特点,不同于创新信息系统(ERP)当中的数据,大数据的数据类型是非常复杂的,既有结构化数据,也有非结构化数据和半结构化数据,这对于传统的数据处理技术提出了巨大的挑战,这也是推动大数据技术产生的一个重要原因。在工业互联网时代,大数据的数据结构多样性会进一步得到体现,这对于数据价值化过程也提出了新的挑战。

数据价值密度往往是衡量数据价值的重要基础,相对于传统的信息系统来说,大数据当中的数据价值密度是比较低的,这就需要有更快速和便捷的方式,来完成数据的价值化提取过程,而这也正是当前大数据平台所关注的核心能力之一。实际上,早期的Hadoop、Spark平台之所以能够脱颖而出,一个重要的原因就是其数据处理(排序)速度比较快。

数据增长速度快是大数据的另一个重要表现,通常传统信息系统的数据增量是可以预测的,或者说增长速度是可控的,但是在大数据时代,数据增长速度已经大大突破了传统数据处理所能承载的极限。数据增长是一个相对的概念,相对于消费互联网来说,产业互联网所带来的数据增量可能会更加客观,因此产业互联网时代会进一步打开大数据的价值空间。

最后,大数据还有一个特点就是数据本身的真实性,大数据时代所带来的一个重要副作用就是数据真假难辨,这也是当前大数据技术所要重点解决的问题之一。从当前大型互联网平台所采用的方法来看,通常是技术和管理相结合的方式,比如通过为用户认证就能够解决一部分数据的真实性(专业性)问题。

我从事互联网行业多年,目前也在带计算机专业的研究生,主要的研究方向集中在大数据和人工智能领域,我会陆续写一些关于互联网技术方面的文章,感兴趣的朋友可以关注我,相信一定会有所收获。

如果有互联网、大数据、人工智能等方面的问题,或者是考研方面的问题,都可以在评论区留言,或者私信我!

相信大家对于这次新冠肺炎疫情期间社区防控力度之严、强度之大深有体会。但在杭州滨江区,在疫情爆发之初,却面临着社区疫情防控人手不足的问题。对此,国家电网杭州分公司研发了全国首个“电力大数据+社区网格化”算法,实现了收集、研判电力数据功能,并对滨江157476户居民、超过1000万条电力数据,进行了收集和分析。为了精准判断细微的用电数据差别,该公司在算法中开发了居民短暂和长期外出、举家返回、隔离人员异动等3个场景6套算法模型。通过3轮150余万条次电力大数据巡航,精准判断出区域内人员日流动量和分布,还可以实时监测居家隔离人员、独居老人等特殊群体347户。这让社区人员得以根据电量波动判断业主状况,提高了登记和服务的效率,从而解决了人手不足的难题。

听完这个例子,不知道你有没有什么感触呢?看似“高大上”的大数据,实际上就是这么的“接地气”。今天呢,我主要是想纠正一些大家对于大数据的误解,对大数据有一个更清晰且正确的认识。

二、大数据是什么?

其中,第三范式和第四范式都是由计算机来进行计算的,二者之间有什么区别呢?

引用维克托·迈尔·舍恩伯格撰写的《大数据时代》中的话来说,就是:大数据时代最大的转变,就是放弃对因果关系的渴求,取而代之关注相关关系。第四范式相对于第三范式来说,更关注“是什么”,而不需要知道“为什么”,就像人类总是会思考事物之间的因果联系,电脑却更擅长相关性分析。这也是为什么有人提出第三范式是“人脑+电脑”,人脑是主角,而第四范式是“电脑+人脑”,电脑是主角。

也许会有同学提出疑问,这是不是与我们科学研究的理念相违背?毕竟,如果通篇只有对数据相关性的分析,而缺乏具体的因果解读,这样的文章一般被认为是数据堆砌,是不可能发表的。

这里我又想给大家举一个例子了,让大家更好的理解第四范式的意义所在。拿我们近年来特别关心的雾霾来说,我们想要研究雾霾的产生机制,从而进行针对性的预防。

按照第三范式的思路,我们需要先在一些具有“代表性”的地方建立气象站,收集与雾霾形成有关的参数,包括大气化学成分、地形、风向、温度、湿度等气象因素。需要注意的是,第三范式下,我们所收集的参数都是我们认为可能会影响到雾霾形成的因素,实际上已经人为地排除了某些不重要的参数。从研究的可行性角度出发无可厚非,但是从准确性上来说,已经是根源性的错误了。如果能够获取更全面的数据,即不加筛选地收集各类参数数据,进行更细致的数据分析,那么就能得出更科学的预测,这就是第四范式的出发点。

相信通过上面的解说,大家对大数据有了一个基本的认识,下面呢我来对大数据做一个简单的定义:大数据(big data),指的是在一定时间范围内不能以常规软件工具处理(存储和计算)的大而复杂的数据集。这些大数据集包括结构化、非结构化和半结构化数据,需要经过进一步的数据处理和分析才能形成有价值的信息。

第一、数据体量巨大

这点相不难理解,我们日常生活中使用的微信、支付宝、微博、抖音等软件每天都会产生数百亿条以上的数据,这仅仅是移动应用一天的数据量,此外其他各行各业也都会产生各式各样的数据,其总量绝对超出了你们的想象。举个具体的例子,据英特尔预测,全球数据总量在2020年将达到44ZB,而中国产生的数据量将为8000EB,8000EB是什么概念?整个地球上所有沙粒总数的10倍!

第二、数据类型繁多

正如我刚才所提到的,大数据包括结构化数据、半结构化数据和非结构化数据。结构化数据指数据的属性相同,可以用统一的结构进行表示;非结构化数据缺少固定的结构,通常整体存储,比如各种图片、视频、音频等,非结构化数据越来越成为数据的主要形式,据IDC数据显示,企业中80%的数据都是非结构化数据;而半结构化数据则介于两者之间,比如HTML和XML文档,其内部用成对的标签记录对应的数据,但每个文档内部的标签又不是统一的,没有固定的规律。

第三、价值密度低

大数据的价值很高,但是单条记录却基本无意义,缺乏有效信息,这也对我们收集数据提出了要求,数据分析一定要建立在大量的数据集的基础上。举个例子,张三是某电商平台的忠实用户,我们作为后台,如果单看他的某一条购物记录,无非是知道了他买了什么东西,消费了多少钱,但是我们一旦利用大数据分析系统对张三所有的购物记录进行分析,那么我们就能得出他的一个消费画像,了解其购买偏好,从而对他进行精准的商品推荐。

第四、处理速度快

如今5G时代,数据产生的速度越来越快,这就要求数据后台能够快速处理掉无用信息,因为需要控制存储成本。同时更快速地处理信息,能够获取更多的有效价值,才能够在商业竞争中取得优势。两方面因素都刺激着数据处理技术的高速发展,目前采取流式数据处理技术可以达到毫秒级甚至微秒级的处理时间,满足实时监控分析用户行为,从而提供个性化服务的需求。

三、结语

最后,引马云的一句话作为结尾:未来的时代将不是IT时代,而是DT的时代。这里的DT就是data technology, 希望各位对大数据有了一个新的认识,也希望大家能够在这个万物互联的时代,把握时代机遇,掌握信息技能,做一朵勇往直前的“后浪”。

相关文章

钢铁雄心中国代码背后的崛起力量

钢铁,作为现代工业的基石,见证了一个国家的繁荣与崛起。在我国,钢铁产业的发展历程,正是中国崛起的一个缩影。而一款名为“钢铁雄心”的...

建站教程 2025-02-21 阅读0 评论0

铜外汇代码解读全球铜价波动的密码

铜,作为一种重要的工业金属,广泛应用于电力、建筑、交通等领域。铜的需求量不断攀升,铜价波动成为市场关注的焦点。铜外汇代码,作为铜价...

建站教程 2025-02-21 阅读0 评论0