windows安装spark,并使用idea编写scala跑spark
来源:http://www.tudoupe.com时间:2022-04-06
1) 稍稍安装jdk。
2)scala
https://www.scala-lang.org/download/all.html
下载 zip unpressure 后配置环境变量 。
3)spark
http://archive.apache.org/dist/spark/
下载解压
cmd- 空间壳
在Hapop的二进制路径中,百叶窗的二进制是不正确的。
Hadoop 必须安装 。
(4) 在Windows上安装哈多布
请接受我的道歉, Apache. Org/dist/hadoop/。
下载解压即可
需要一些操作
1) https://github.com/steveloughran/winutils
下载 Winutils 。 这是某人的二进制版本的 Hadoop 的 Windows, 我们不需要自己组装。 全部删除!
将.dll 文件放在给定目录中 。
根目录文件夹中的 Hadoop. dll 文件已转到 C: WindowsSystem32 文件夹
2) 更改配置等
如果路径包含程序文件, 请用 PROGRA1 替换它 。
(3) 在根目录中打开 etc/hadoop/ hdfs- site.xml 文件。
对不起,dir和dfs。 我不知道你在说什么,数据节点。 我不知道你在说什么,名字。 两个 dir属性的价值,将绝对路径替换为两个新生成的文件夹,即数据节点和命名节点(注意 Windows 下的路径无法被复制和直接粘贴)。路线 URL 使用鞭笞而不是反向鞭笞。我要在出口前划一刀 以保住出口
运行命名节格式 hdfs 命令 。
开始于 Sbin 目录中全部开始 。
namenode、datanode、resourcemanager、nodemanager
https://gitcode.net/mirrors/sardetushar/hadooponwindows?utm_source=csdn_github_accelerator
此时执行cmd- 空间壳
开发协会创建了一个Scala榜样 并使用Spark-submit来运行它。




spark-submit --class Hello HelloWorld.jar
相关新闻
- 2022-08-04 WPF的由来
- 2022-08-04 Win11勒索软件防护怎么打开?Win11安
- 2022-08-04 Windows系统jdk的配置
- 2022-08-04 Windows10 OneNote怎么重新登录?如何重
- 2022-08-04 超好用的 Windows 效率工具推荐
- 2022-08-04 Windows如何在CMD或PowerShell中配置代理
- 2022-08-04 powershell和cmd对比
- 2022-08-04 【QT】Windows下QT下载安装
- 2022-08-04 windows下 C++ 实现类属性的get和set方
- 2022-08-04 Win11快速助手在哪里?Win11打开快速
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
