window操作系统搭建Spark开发调试环境

2019-04-14 22:09发布

1 搭建环境前写个demo代码;
2 安装配置jdk1.8;
3 安装配置scala2.11.18;
4 导入pom.xml中依赖jar;
5 下载Hadoop的bin包,设定环境变量HADOOP_HOME,值为解压后的目录(http://hadoop.apache.org/releases.html下载);
6 下载winutils.exe将其放到$HADOOP_HOME/bin/目录下(https://github.com/srccodes/hadoop-common-2.2.0-bin下载,不用担心版本问题,Hadoop2.6.4、Hadoop2.8、Hadoop2.7.3 都用这个);
7 配置程序启动参数local ,再IDEA VMOPTION中  填写-Dspark.master=local[3],该模式所有的线程都在一个JVM里面,可以验证代码的逻辑错误,所有的日志也都在控制台打印;
8 启动。


注意:设置环境变量有两种方式
1.在系统中设置环境变量HADOOP_HOME和PATH,跟java设置类似(只需要设置一次,记得设置后要重启电脑才能生效,jdk这样设置环境变量就不用重启)
2.直接在程序里设置(这个好处是你不用重启电脑,但是你每写个小例子就得设置一下)
Configuration conf=new Configuration();
conf.set("hadoop_home", "H:\publicQuoteJar\hadoop-2.7.3");

IDEA服务器激活  http://www.iteblog.com/idea/key.php参见http://blog.csdn.net/rickyit/article/details/51790069  本地激活方法,或者注册成为服务。
出现的问题以及解决方案:当streaming设置chechpoint路径时,会  报java.lang.UnsatisfiedLinkError: org.apache.hadoop.util.NativeCrc32.nativeComputeChunkedSumsByteArray是因为  hadoop.dll  的版本问题,最后下载更新,下载路径 https://github.com/rucyang/hadoop.dll-and-winutils.exe-for-hadoop2.7.3-on-windows_X64,可以更新这个文件夹中的    文件,因为 hadoop的版本为2.8.1,更新之后 没有问题
注意:在win10操作系统上,winutils.exe采用https://github.com/srccodes/hadoop-common-2.2.0-bin 下载的文件,大小40K;hadoop.dll采用https://github.com/rucyang/hadoop.dll-and-winutils.exe-for-hadoop2.7.3-on-windows_X64下载的文件,大小84K。
IDEA免注册码   http://blog.csdn.net/qq_24504453/article/details/77407329========================idea激活=================================idea激活,JetBrain旗下软件激活

前言
激活流程
1. 下载JetbrainsCrack.jar
2. 修改配置文件
3. 修改Activation Code
4. 后记
5. 参考资料

前言idea激活有多种方式,网上较多的是使用注册码或者填License server网址,目前(2017年8月19日)使用注册码的方式,亲测可用的只有lanyun提供的注册码,但是会在2017年11月份的时候过期;然后填License server网址的方式,必须在你每次启动前电脑都要联网;所以感觉这两种方式都不太好,而使用破解补丁的方式可以一劳永逸,何乐而不为呢。 
PS: JetBrain其他软件激活方法类似,大家参考时,灵活变通。
激活流程
1. 下载JetbrainsCrack.jar
地址:http://pan.baidu.com/s/1pLEZKiJ 
或者:http://idea.lanyus.com/ 
在这个网站的:破解补丁无需使用注册码,这一项里; 
PS: 因为感觉这里提供的jar包会更新,所以也贴上了
2. 修改配置文件
进入自己安装idea路径的bin目录下,(不知道自己安装在哪儿的同学,请右击桌面的idea图标,选择属性,在目标这个地方就可以找到了),将刚刚下载好的JetbrainsCrack.jar复制到此目录下;
还是在bin目录下,找到idea.exe.vmoptions和idea64.exe.vmoptions,用记事本打开它们,在两个文件最后分别加上(注意:按照自己的目录和下载的JetbrainsCrack稍作修改,不要盲目复制):
-javaagent:D:DevelopIntelliJ IDEA 15.0.6inJetbrainsCrack-2.6.2.jar
3. 修改Activation Code
重启idea,进入Register(在Help中有,或者进入项目之前选择工程的界面也有)
选择Activation Code,粘贴如下代码,记得修改下面的用户名部分和邮箱部分:
ThisCrackLicenseId-{
"licenseId":"ThisCrackLicenseId",
"licenseeName":"andy",
"assigneeName":"",
"assigneeEmail":"402097323@qq.com",
"licenseRestriction":"For This Crack, Only Test! Please support genuine!!!",
"checkConcurrentUse":false,
"products":[
{"code":"II","paidUpTo":"2099-12-31"},
{"code":"DM","paidUpTo":"2099-12-31"},
{"code":"AC","paidUpTo":"2099-12-31"},
{"code":"RS0","paidUpTo":"2099-12-31"},
{"code":"WS","paidUpTo":"2099-12-31"},
{"code":"DPN","paidUpTo":"2099-12-31"},
{"code":"RC","paidUpTo":"2099-12-31"},
{"code":"PS","paidUpTo":"2099-12-31"},
{"code":"DC","paidUpTo":"2099-12-31"},
{"code":"RM","paidUpTo":"2099-12-31"},
{"code":"CL","paidUpTo":"2099-12-31"},
{"code":"PC","paidUpTo":"2099-12-31"}
],
"hash":"2911276/0",
"gracePeriodDays":7,
"autoProlongated":false}


4. 后记
按照如上步骤执行完后就激活成功了,亲测可用
我使用的是jar包是: JetbrainsCrack-2.6.2.jar,idea版本是: 15.0.6; 貌似不修改activation Code也是到2099年过期,但是我还是改了,哈哈。
据说这个方法除了可以激活idea以外,还可以激活JetBrains旗下的很多产品,例如:WebStorms啊什么的,有需要的大家可以试试。
现在查出来的资料太多太多都是让填注册码或者License server网址;博主感觉使用破解补丁的方法比较好,于是记录下来,推荐给大家。
5. 参考资料
https://my.oschina.net/superman158/blog/602375
https://tieba.baidu.com/p/4927686353
==========================================================IDEA常用快捷键梳理

查询快捷键
CTRL+N   查找类
CTRL+SHIFT+N  查找文件
CTRL+SHIFT+ALT+N 查 找类中的方法或变量
CIRL+B   找变量的来源
CTRL+ALT+B  找所有的子类
CTRL+SHIFT+B  找变量的 类
CTRL+G   定位行
CTRL+F   在当前窗口查找文本
CTRL+SHIFT+F  在指定窗口查找文本
CTRL+R   在 当前窗口替换文本
CTRL+SHIFT+R  在指定窗口替换文本
ALT+SHIFT+C  查找修改的文件
CTRL+E   最 近打开的文件
F3   向下查找关键字出现位置
SHIFT+F3  向上一个关键字出现位置
F4   查找变量来源
CTRL+ALT+F7  选 中的字符 查找工程出现的地方
CTRL+SHIFT+O  弹出显示查找内容








SVN 管理
把SVN库添加到IDEA中 SETTING ->  VERSION CONTROL -> VCS = SVBVERSION

自动代码
ALT+回车  导入包,自动修正
CTRL+ALT+L  格式化代码
CTRL+ALT+I  自 动缩进
CTRL+ALT+O  优化导入的类和包
ALT+INSERT  生成代码(如GET,SET方法,构造函数等)
CTRL+E 或者ALT+SHIFT+C 最近更改的代码
CTRL+SHIFT+SPACE 自动补全代码
CTRL+空格  代码提示
CTRL+ALT+SPACE  类 名或接口名提示
CTRL+P   方法参数提示
CTRL+J   自动代码
CTRL+ALT+T  把选中的代码放在 TRY{} IF{} ELSE{} 里








复制快捷方式
F5   拷贝文件快捷方式
CTRL+D   复制行
CTRL+X   剪 切,删除行
CTRL+SHIFT+V  可以复制多个文本








高亮
CTRL+F   选中的文字,高亮显示 上下跳到下一个或者上一个
F2 或SHIFT+F2  高亮错误或警告快速定位
CTRL+SHIFT+F7  高亮显示多个关键字.








其他快捷方式
CIRL+U   大小写切换
CTRL+Z   倒退
CTRL+SHIFT+Z  向 前
CTRL+ALT+F12  资源管理器打开文件夹
ALT+F1   查找文件所在目录位置
SHIFT+ALT+INSERT 竖 编辑模式
CTRL+/   注释// 
CTRL+SHIFT+/  注释/*...*/
CTRL+W   选中代码,连续按会 有其他效果
CTRL+B   快速打开光标处的类或方法
ALT+ ←/→  切换代码视图
CTRL+ALT ←/→  返回上次编辑的位置
ALT+ ↑/↓  在方法间快速移动定位
SHIFT+F6  重构-重命名
CTRL+H   显 示类结构图
CTRL+Q   显示注释文档
ALT+1   快速打开或隐藏工程面板
CTRL+SHIFT+UP/DOWN 代码 向上/下移动。
CTRL+UP/DOWN  光标跳转到第一行或最后一行下
ESC   光标返回编辑框
SHIFT+ESC  光 标返回编辑框,关闭无用的窗口
F1   帮助 千万别按,很卡!
CTRL+F4   非常重要 下班都用








一.找文件找代码找引用相关


1.双击shift
在项目的所有目录查找,就是你想看到你不想看到的和你没想过你能看到的都给你找出来


2.ctrl+f
当前文件查找特定内容


3.ctrl+shift+f
当前项目查找包含特定内容的文件


4.ctrl+n
查找类


5.ctrl+shift+n
查找文件


6.ctrl+e
最近的文件


7.alt+F7
非常非常频繁使用的一个快捷键,可以帮你找到你的函数或者变量或者类的所有引用到的地方


二.编辑相关


1.shift+enter
另起一行


2.ctrl+r
当前文件替换特定内容


3.ctrl+shift+r
当前项目替换特定内容


4.shift+F6
非常非常省心省力的一个快捷键,可以重命名你的类、方法、变量等等,而且这个重命名甚至可以选择替换掉注释中的内容


5.ctrl+d
复制当前行到下一行


6.ctrl+x
剪切当前行


7.ctrl+c ctrl+v
大家都懂的


8.ctrl+z
撤销


9.ctrl+shift+z
取消撤销


10.ctrl+k
提交代码到SVN


11.ctrl+t
更新代码


12.alt+insert
非常非常以及相当方便的一个组合键,不信您往下看
在类中使用:可以自动生成构造器、getter/setter等等常用方法
在项目目录上使用:可用于新建各种文件
PS:黄 {MOD}警告编译可以通过,不影响程序的正常运行,一般都是一些对于代码优化的建议,我遇到过的有:
(1).can be simplify
代码可以简化
(2).Variable is never use
声明的变量从未被使用
(3)unnecessary boxing
不必要的声明包装
写个类实现某个接口,加上 implements Runnable 后你就会发现这条红 {MOD}的波浪线


14.ctrl+alt+L


自动格式化代码,我已经养成了写完代码就来一发的习惯。