-
![[bigdata-030] cdh 5.9的impyla操作hiveserver2](/uploads/allimg/c200809/159ECZZ1320-16337.gif)
[bigdata-030] cdh 5.9的impyla操作hiveserver2
所属栏目：[大数据] 日期：2020-12-31 热度：137
参考文献：http://www.aichengxu.com/view/11094184 1. cdh 5.9 2. 开发机已经安装了impyla pip install thrift_sasl pip install sasl 3. 在cdh集群的一个节点启动hiveserver2 3.1 修改/etc/hive/conf.cloudera.hive/hive-site.xml 增加属性 property ? nam[详细]
-
HDU 2054 判断大数是否相等
所属栏目：[大数据] 日期：2020-12-31 热度：91
原题链接：http://acm.hdu.edu.cn/showproblem.php?pid=2054 题解：这个题不严谨，仅判断后向0就行，而且不用判正负。 代码： #includeiostreamusing namespace std;const int maxn = 100000;void cleanlastzero(char str[]) { int len = strlen(str),digit_[详细]
-
51 Nod 1028 大数乘法 V2 NTT 学习
所属栏目：[大数据] 日期：2020-12-31 热度：73
题意：求两个大数的乘积 解题方法：之前已经用FFT做过了，今天学习一下NTT，记录一下模板。 先所以下NTT，具体的讲解可以看见这里 为了避免FFT在复数和浮点运算中出现精度问题，所以在某些情况下使用NTT。记录一下NTT的模板，其实和FFT很多一样。对了这个具[详细]
-
一份价值百万的大数据分析报告如何炼成？
所属栏目：[大数据] 日期：2020-12-31 热度：197
作者 | 江颖 大数据文摘欢迎各类优质稿件 请联系 tougao@bigdatadigest.cn 序 曾经，咨询公司一份报告就能收取企业几十万、甚至于上百万。而今，矫枉过正，数据分析报告却常常被企业认为没有任何实际价值。我经常和企业交流，他们告诉我，需要的是能够为他带[详细]
-
媒体|郑宇：用大数据预测雾霾是如何做到的？
所属栏目：[大数据] 日期：2020-12-31 热度：155
（本文由澎湃新闻授权转载。） ? 全球范围里，有超过半数的人类居住在城市之中，城市化的进程也从未停止过。面对越来越庞大的城市，许多事情已经超出了控制：拥堵的交通，严重的空气污染，让人烦躁的噪音等等。 ? 没有人真正了解城市中到底发生了什么，也没[详细]
-
大数幂运算
所属栏目：[大数据] 日期：2020-12-31 热度：54
还是纯模拟，只可意会，不可言传，回到4年级，然后自己体会 #include stdio.h#include string.husing namespace std;#define MAX 40001int s[MAX];int nbit;void Init();void EXP(int nb,int ne);void vout(int x);int main(){ int base,exp; while(~scanf("[详细]
-
414. Third Maximum Number
所属栏目：[大数据] 日期：2020-12-31 热度：121
Given a non-empty array of integers,return the third maximum number in this array. If it does not exist,return the maximum number. The time complexity must be in O(n). Example 1: Input : [3,2,1] Output : 1 Explanation : The third maximum i[详细]
-
[bigdata-025] ubuntu 14.04 下用virtualbox安装ghost xp
所属栏目：[大数据] 日期：2020-12-31 热度：157
市面上的各种ghost的iso很多。这里只说关键点 1.? 用xp ghost镜像启动，选择dos 2. 在dos执行 pq，进行分区 ??? 2.1 首先，选择建立一个“主要分割磁区”，这一点千万不要错，设置为C盘。文件格式根据xp ghost 指定的格式来，现在一般是ntfs。大概，4g就行了[详细]
-
[bigdata-026] 大数据principle No.1 “只有干净数据才能进入存
所属栏目：[大数据] 日期：2020-12-31 热度：162
这个原则是极其重要。 1. 大数据eco，唯一的优点是处理海量数据，但是工具一般都不完善，藏着各种坑。不像传统数据库和传统功能，完备精致。 2. 最佳的使用方式就是：数据是干净清洁完美的，用大数据工具处理，性能很爽。 3. 但是，如果你试图用大数据eco做[详细]
-
[bigdata-026] 大数据principle No.1~No.4
所属栏目：[大数据] 日期：2020-12-31 热度：138
Principle No.1 只有干净的数据才能进入存储。 这个原则是极其重要。 1. 大数据eco，唯一的优点是处理海量数据，但是工具一般都不完善，藏着各种坑。不像传统数据库和传统功能，完备精致。 2. 最佳的使用方式就是：数据是干净清洁完美的，用大数据工具处理，[详细]
-
大数据处理算法一：BitMap算法
所属栏目：[大数据] 日期：2020-12-31 热度：135
腾讯面试题：给20亿个不重复的unsigned int的整数，没排过序的，然后再给一个数，如何快速判断这个数是否在那40亿个数当中并且所耗内存尽可能的少？ ?解析:bitmap算法就好办多了 ?所谓bitmap，就是用每一位来存放某种状态，适用于大规模数据，但数据状态又不[详细]
-
大数据处理算法二：Bloom Filter算法
所属栏目：[大数据] 日期：2020-12-31 热度：63
百度面试题：给定a、b两个文件，各存放50亿个url，每个url各占64字节，内存限制是4G，让你找出a、b文件共同的url？ Bloom?Filter 是由 Bloom 在 1970 年提出的一种多哈希函数映射的快速查找算法。通常应用在一些需要快速判断某个元素是否属于集合，但是并不[详细]
-
数据意识崛起，从企业应用看BI软件的未来发展
所属栏目：[大数据] 日期：2020-12-31 热度：198
前阵子，和一群企业CIO聊天，希望从甲方角度看看对BI产品的看法。在问及一些成熟企业为何不上BI项目时，大家纷纷表示目前还处于观望状态。 提及BI，大家都觉得有些飘忽，和大数据一样，听着高大上，能真正实现落地的并没有多少，性价比甚至不如一个报表工具[详细]
-
宋慧庆|广告系统中的大数据处理
所属栏目：[大数据] 日期：2020-12-31 热度：92
宋慧庆 ，时趣互动 移动广告架构师 十余年互联网老司机，具有多年互联网广告系统研发经验，负责研发个性化动态创意系统，用户画像标签系统以及大数据治理；对编程语言有浓厚的兴趣。 什么是大数据？ 从具备4V（Volume，Velocity，Variety，Value）特征的大量[详细]
-
25、Power Query-日期与时间数据处理
所属栏目：[大数据] 日期：2020-12-31 热度：116
本节知识点：Power Query-日期与时间数据处理 日期与时间数据处理功能位置（同样在“转换”和“添加列”菜单中都存在）： 这里重点讲解一下某些知识点。 比如年限：意思是当前系统日期减去选中列的日期，结果以“天时分秒毫秒”方式显示。 月份下面的“一个[详细]
-
使用R语言挖掘QQ群聊天记录
所属栏目：[大数据] 日期：2020-12-30 热度：59
数据挖掘入门与实战 ?公众号： datadw 1、获取数据 从 QQ 消息管理器中导出消息记录，保存的文本类型选择 txt 文件。这里获取的是某群从 2016-04-18 到?2016-05-07 期间的聊天记录，记录样本如下所示。 2、数据预处理 打开 R 软件，先通过 File—Change dir[详细]
-
视音频数据处理入门：PCM音频采样数据处理
所属栏目：[大数据] 日期：2020-12-30 热度：51
===================================================== 视音频数据处理入门系列文章： 视音频数据处理入门：RGB、YUV像素数据处理 视音频数据处理入门：PCM音频采样数据处理 视音频数据处理入门：H.264视频码流解析 视音频数据处理入门：AAC音频码流解析[详细]
-
视音频数据处理入门：AAC音频码流解析
所属栏目：[大数据] 日期：2020-12-30 热度：160
===================================================== 视音频数据处理入门系列文章： 视音频数据处理入门：RGB、YUV像素数据处理 视音频数据处理入门：PCM音频采样数据处理 视音频数据处理入门：H.264视频码流解析 视音频数据处理入门：AAC音频码流解析[详细]
-
自从有了BI商业智能系统，再也不用担心我的作图了！！！（图文）
所属栏目：[大数据] 日期：2020-12-30 热度：78
最近使用spotview商业智能系统，简单的一点体验分享一下。 这是一个金蝶公司合作的产品，纯B/S架构，设计页面和展示端，现在这已经是不可抵挡的趋势了。只有后台设计模型是需要在服务器上做，类似于数据库里做视图，只要将有关联表的字段用线连接起来就OK了[详细]
-
使用 R 语言挖掘 QQ 群聊天记录
所属栏目：[大数据] 日期：2020-12-30 热度：74
1、获取数据 从 QQ 消息管理器中导出消息记录，保存的文本类型选择 txt 文件。这里获取的是某群从 2016-04-18 到?2016-05-07 期间的聊天记录，记录样本如下所示。 2、数据预处理 打开 R 软件，先通过 File—Change dir 切换到聊天文件所在目录。 引入包： li[详细]
-
大数据分析相关
所属栏目：[大数据] 日期：2020-12-30 热度：178
类比: 谈谈互联网后端基础设施 www.rowkey.me/blog/2016/08/27/server-basic-tech-stack/ 文件系统: ??? hdfs 数据库: ?? hbase 计算系统: ?? hive sql管理和定时执行平台: ??? 阿里宙斯zeus.(自称调度,并没有资源协调功能,有hive本身完成) 统计分析和展现平[详细]
-
[bigdata-022] hive和impala的对hbase的精细order by操作
所属栏目：[大数据] 日期：2020-12-30 热度：162
1. 要用hive给hbase的表创建一个外部表。不能用impala，因为它在这块有缺陷。 2. 在hive创建一个本地表，注意，一定不要创建在hbase上。 3. 在hive里，执行order by命令，对外部表进行排序，然后将排序结果写入到2创建的hive本地表。这时候，因为order by是[详细]
-
大数据分析当人们谈《鬼吹灯》时，都谈些什么？
所属栏目：[大数据] 日期：2020-12-30 热度：106
文 | 艾漫数据 近日，又一部考古探险题材网剧火热上线，老干部靳东搭档陈乔恩主演的《鬼吹灯之精绝古城》。相比之前同类型作品，这次的改编开播后的口碑可以用“交口称赞”形容，上线两周后好评率达到87%以上。 小编不禁好奇，究竟是什么样的内容，引得观众[详细]
-
分享 ：2017年商业智能 BI 发展趋势分析
所属栏目：[大数据] 日期：2020-12-30 热度：127
在展望2017年商业智能 BI 发展趋势前，我们先来了解一下商业智能?BI?发展的几个重要阶段。 传统 BI 和新型 BI 的分水岭（2013年） 大背景 在2013年以前相当长的一个周期（2005年-2013年），市场主要流行的商业智能BI产品以?SAP BO、Oracle BIEE、IBM Cognos?[详细]
-
leetcode 43. Multiply Strings 9大数相差（java实现）
所属栏目：[大数据] 日期：2020-12-30 热度：177
原题： Given two non-negative integers? num1 ?and? num2 ?represented as strings,return the product of? num2 . Note: The length of both? num2 ?is 110. Both? num2 ?contains only digits? 0-9 . Both? num2 ?does not contain any leading zero. Yo[详细]
