-
大数据平台核心架构图鉴 提议收藏
所属栏目:[大数据] 日期:2022-06-27 热度:188
大数据的核心层应该是:数据采集层、数据存储与分析层、数据共享层、数据应用层,可能叫法有所不同,本质上的角色都大同小异。 所以我下面就按这张架构图上的线索,慢慢来剖析一下,大数据的核心技术都包括什么。 01数据采集 数据采集的任务就是把数据从各种[详细]
-
新时代开源数据调度在1000+企业的进化之途
所属栏目:[大数据] 日期:2022-06-27 热度:148
近年来,随着互联网的飞速发展,业务量在短时间内呈现爆发式增长,对应的数据量快速从数百 G 涨至数百 T。无论数据存储还是数据调度,当前数据量已经远超处理能力的上限。若信息处理技术仍渐进式发展,数据处理能力的提升将远落后于指数级增长的数据量。 可[详细]
-
为何很多人宁可用 Excel 也不用 Python
所属栏目:[大数据] 日期:2022-06-25 热度:74
有人说,Python即使不是最好的编程语言,也是最受欢迎的语言之一。因为它简洁易用,功能强大,对初学者也很友好。在众多培训机构的小广告中,学了Python就能批量处理Excel表格,Python是实现办公自动化的利器,从此告别996之类的口号随处可见。但实际工作中[详细]
-
云数据仓库中的数据安全思虑
所属栏目:[大数据] 日期:2022-06-25 热度:154
近年来,由于云计算与云存储具有一定的廉价性和可扩展性,云数据仓库(Cloud data warehouses,CDW)得到了广泛的应用并飞速发展。同时,CDW不但能够存储比本地数据库更多的数据,而且可以通过现代化数据管道,简化了ETL的各种流程,因此许多企业都开始用它[详细]
-
终于有人把MPP大数据系统架构讲清楚了
所属栏目:[大数据] 日期:2022-06-25 热度:162
本文首先回顾并行硬件架构的发展,并进一步介绍基于并行硬件架构的数据库一体机系统与基于MPP架构的数据库软件系统。数据库一体机系统在银行等大型企业中采用广泛,一体机的优点是开箱即用、功能丰富、稳定、售后服务好,缺点是价格昂贵、扩展不灵活。基于普[详细]
-
数据科学家应对的几大挑战及解决方法
所属栏目:[大数据] 日期:2022-06-25 热度:51
每天,全球各地的组织都在寻找2.5万亿字节的数据,以获得对其业务的见解和价值驱动的行动。为了实现这一目标,需要高技能的科学专家或数据科学家参与开发业务中的企业AI。在不断增长的业务领域中,数据科学家的每一个行动都有助于改进业务的功能。 下面来探[详细]
-
使用Java和Python进行数据统计和剖析
所属栏目:[大数据] 日期:2022-06-25 热度:124
Java 和 Python 是当今最流行的两种计算机语言。两者都非常成熟,并提供了工具和技术生态系统,帮助我们解决数据科学领域出现的挑战性问题。每种语言都各有优势,我们要知道什么时候应该使用哪种工具,或者什么时候它们应该协同工作相互补充。 Python 是一种[详细]
-
云迁移之后 企业凭什么充分挖掘数据潜力
所属栏目:[大数据] 日期:2022-06-25 热度:121
近年来,基础设施即服务(IaaS)、平台即服务(PaaS)和软件即服务(SaaS)等业务模式正飞速发展,也推动着云投资屡创新高。根据GlobalData的报告,2024年亚太地区云计算市场规模预计将达到1918亿美元,2019至2024年期间的复合年增长率为7.7%。 然而,云迁移[详细]
-
字节跳动数据平台技术揭晓
所属栏目:[大数据] 日期:2022-06-25 热度:165
ClickHouse作为目前业内主流的列式存储数据库(DBMS)之一,拥有着同类型DBMS难以企及的查询速度。作为该领域中的后起之秀,ClickHouse已凭借其性能优势引领了业内新一轮分析型数据库的热潮。但随着企业业务数据量的不断扩大,在复杂query场景下,ClickHouse容[详细]
-
大规模分布式计算学习引擎Ray在字节跳动NLP场景下的践行
所属栏目:[大数据] 日期:2022-06-25 热度:140
RayRTC 是字节基础架构组与字节 AML 组共同合作,在内部 RTC(Realtime Text Classification)文本训练平台上基于 Ray 进行的下一代 Serverless ML 的探索。RTC 文本分类平台是一个一站式的 NLP 服务平台,包括了数据预处理,标注,模型训练,打分,评估,Au[详细]
-
远程访问装有GPU的电脑很不方便 如今有一个值得试试的办法
所属栏目:[大数据] 日期:2022-06-25 热度:106
由于多种原因,很多人无法将在本地存储了大量文件的电脑和软件带回家,好在有办法做到从任何地方发起高质量的远程访问,而无需额外费用。下面介绍几种经过测试的方法,实现方便地远程管理办公电脑。 DOC怎么了? 普通员工只需使用远程桌面协议(RDP协议)连[详细]
-
几款日常的开源无代码测试工具
所属栏目:[大数据] 日期:2022-06-25 热度:181
编程语言一直是自动化测试、自动化测试人员、框架甚至工作职责中不可或缺的一部分。如果一个遗留项目已经使用了Java进行测试,该公司会为该项目寻找具备Java专业知识的人员。同样,如果新项目需要从零开始构建测试流程,那么首要考虑的事情就是团队擅长哪种[详细]
-
几时使用机器学习
所属栏目:[大数据] 日期:2022-06-14 热度:51
为什么要探讨这个话题 探讨这个话题的本质原因是来源于为客户提供数据战略咨询服务时的思考,很多客户的痛点与诉求看似可以用机器学习解决,但实际上却充满风险,所以究竟机器学习什么时候该用,什么时候不该用,便成为了思考的对象。 机器学习起源于学术界[详细]
-
如何让程序员更简单使用机器学习
所属栏目:[大数据] 日期:2022-06-14 热度:104
一直以来,人们试图手工编写算法来理解人工生成的内容,但是成功率极低。例如,计算机很难掌握图像的语义内容。对于这类问题,AI科学家已经尝试通过分析汽车、猫、外套等低级像素来解决,但结果并不理想。尽管颜色直方图和特征检测器在一定程度上发挥了作用[详细]
-
如何建造一支高效率的人工智能团队?
所属栏目:[大数据] 日期:2022-06-14 热度:171
本文将介绍把机器学习基础设施、员工和流程融合的方式,以实现适用于企业的MLOps(面向人工智能系统的运维管理)。本文希望对旨在以高效人工智能团队开发强大的人工智能/机器学习(AI/ML)项目的经理和主管提供启发。 本文的经验来自Provectus公司的人工智能团队[详细]
-
从开始懂互联网到懂用户,谷歌这次都押了哪些宝?
所属栏目:[大数据] 日期:2022-06-14 热度:145
谷歌 I/O 大会如约而至。谷歌 I/O 2022 大会开幕式上,谷歌 CEO Sundar Pichai 发表了长达 2 小时的以知识和计算为关键词的主题演讲。这次演讲在勾勒谷歌长期发展愿景的同时,也在某种程度上描绘后疫情时代的互联网技术的演进方向。 搜索再定义:Anyway、Any[详细]
-
线下零售要怎么构建AI自动结账服务?
所属栏目:[大数据] 日期:2022-06-14 热度:159
客户体验是线上零售的重要优势,无需排队、没有延迟、采购便捷。但根据Forrester研究报告,由于人们希望在购买前充分了解产品,或只是不喜欢等待商品运输的过程,美国72%的零售消费仍然依靠实体店面。 目前,无人售货的创意方案在亚马逊无人便利店(Amazon Go[详细]
-
赋能元宇宙 启动智能交互新未来
所属栏目:[大数据] 日期:2022-06-14 热度:186
MetaCon元宇宙技术大会2022在线上成功举办,大会聚焦元宇宙产业政策、学术研究成果、技术创新和行业落地等多个层面。人机交互与高效能网络落地专场特邀了多名技术大咖,针对如何实现元宇宙世界人机交互,VR/AR/MR虚拟现实技术、全息影像技术、传感技术等常用[详细]
-
互联网 VS 传统行业,数据分析有啥异同
所属栏目:[大数据] 日期:2022-06-14 热度:67
很多同学好奇:总说互联网数据分析,到底啥是互联网数据分析?和传统企业有啥区别?今天系统讲解下。 典型的传统企业 典型的传统企业,以制造业为代表的,商业模式是: 进原料,生产成产品 通过经销商,卖到全国 承担产品的售后、服务工作 因此,其部门划分通[详细]
-
一文看懂渠道分析怎样做
所属栏目:[大数据] 日期:2022-06-14 热度:92
今天跟大家分享的是:推广渠道分析。推广渠道是推广产品、获取客户的途径,对企业而言,是影响收入的重要因素。今天就简单分享一下,该如何进行分析。 一、有哪些推广渠道 凡是能打广告,拉来用户的地方,都是推广渠道。 常见的线上推广渠道,如: 广告:比[详细]
-
五种比较常用格式的数据输出,手把手教你用Pandas实现
所属栏目:[大数据] 日期:2022-06-14 热度:165
五种比较常用格式的数据输出,手把手教你用Pandas实现 01 CSV DataFrame.to_csv方法可以将DataFrame导出为CSV格式的文件,需要传入一个CSV文件名。 复制 df.to_csv(done.csv) df.to_csv(data/done.csv) # 可以指定文件目录路径 df.to_csv(done.csv, index=Fa[详细]
-
大数据算法天花乱坠的时代,如何辨别数据陷阱?
所属栏目:[大数据] 日期:2022-06-14 热度:120
过去的一周,你心情咋样? 除了股票基金过山车般的涨跌之外,工作例会上,你使用的数据PPT模板让展示更加美观有趣,获得老板好评。 一把游戏结束,系统自动送上战力统计,你的队友明显拖了后腿,下次不要和ta组队了。 此时手机又提醒你视屏时间过长,建议休息[详细]
-
购置税全免,更有多项权益加码,北汽瑞翔给力又给利
所属栏目:[大数据] 日期:2022-06-14 热度:172
为促进汽车消费,支持汽车产业发展,财政部、税务总局联合发布了一则关于减征部分乘用车车辆购置税的公告。作为新时代用户品牌,北汽瑞翔汽车紧跟国家实时政策,积极响应,同时也为了感恩回馈客户的支持与信赖,开展了瑞翔周年庆 给力又给利活动,为用户带来[详细]
-
萤石电池摄像机怎么选?手把手教你选择
所属栏目:[大数据] 日期:2022-06-14 热度:55
在智能家居的众多品类中,智能家居摄像机的表现最为抢眼,已经到了近乎一户一台的流行程度,随着需求的细分,还衍生出了电池摄像机这么一个产品类别。电池摄像机该怎么选?想必对于大多数人来说,就像男生挑口红,女生买车子一样,知之甚少,无从下手。今天[详细]
-
巨头发力助消费者远离山寨维修
所属栏目:[大数据] 日期:2022-06-14 热度:162
以次充好、偷换原件、越修毛病越多、越修价格越贵、泄露用户隐私国内手机保有量屡创新高,但山寨手机维修市场依然乱象丛生。6月1日记者获悉,市场监管部门发布的提示显示,山寨手机维修店存在着花钱买排名、克隆网站及偷换配件等问题。不难看出,消费者只有[详细]
