Spark在Win10下的环境搭建过程
前言
本章将介绍如何在WIN10下实现spark环境搭建。
本章概要
1、版本说明
2、环境准备：
- jdk配置；
- scala安装与配置；
- spark安装与配置；
- hadoop安装与配置；
版本说明
jdk：1.8
scala：2.11.8
spark：2.3.0
hadoop：2.8.3
环境准备
jdk配置
1、配置JAVA_HOME与Path：
Path
2、验证配置：
scala安装与配置
1、scala下载：
访问官方地址
http://www.scala-lang.org/download/2.11.8.html
2、配置Path：
3、验证配置：
Spark安装与配置
1、spark下载：
访问官方地址
http://spark.apache.org/downloads.html
选中官方推荐的地址即可下载，其他地址也可用（建议采用迅雷等下载工具下载，速度比较会快很多）
2、解压至D盘；
3、配置Path：
4、通过spark-shell进入Spark的交互式命令行模式：
如上，可以看到对应的spark、scala、java版本，同时也看到了异常信息，该异常信息是由于hadoop导致的，下面来配置hadoop。
Hadoop安装与配置
1、hadoop下载
访问官方
http://hadoop.apache.org/releases.html
进入下载页，如下建议地址（同样建议用迅雷等下载工具下载，速度更快）
2、解压至
3、配置HADOOP_HOME&Path：
path：
4、winutils下载：
https://github.com/steveloughran/winutils
下载对应版本的bin目录直接替换本地bin目录即可。
5、此时继续spark-shell进入spark命令行交互模式：
此时即不会出现上述的异常提示。
6、访问控制台中的webui如下：
到此这篇关于Spark在Win10下的环境搭建的文章就介绍到这了,更多相关win10 Spark环境搭建内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
微服务的架构出现已经很久很久了，微服务架构就是一种将单个应用程序转换为一组小服务的方法，每个小服务都在自己的进程中运行，并使用轻量级的交互方式（如HTTP）进行通信2021-06-06
这篇文章主要介绍了Pascal Move的用法,需要的朋友可以参考下2021-11-11
FFmpeg是一套可以用来记录、转换数字音频、视频，并能将其转化为流的开源计算机程序。这篇文章主要介绍了ffmpeg播放器实现详解视频显示,需要的朋友可以参考下2020-07-07
这篇文章主要介绍了app开发之原生开发、H5开发和混合开发的区别,需要的朋友可以参考下2019-12-12
云计算的不断发展，涌现出很多改变传统IT架构和运维方式的新技术，而以虚拟机、容器、微服务为代表的技术更是在各个层面不断提升云服务的技术能力，它们将应用和环境中很多通用能力变成了一种服务。但无论这些技术应用在哪里，帮助企业降本增效是技术变革永恒的主题。2021-05-05
TCP 四种定时器（重传定时器，坚持计时器，保活定时器，时间等待计时器）
这篇文章主要介绍了TCP 四种定时器，重传定时器，坚持计时器，保活定时器，时间等待计时器的相关资料,需要的朋友可以参考下2017-03-03
Maven是一个项目管理工具，它包含了一个项目对象模型 (Project Object Model)，这篇文章主要介绍了maven命令大全,需要的朋友可以参考下2020-07-07
在本文中，我们将探讨软件开发过程中关于角色、重构和质量的问题。软件不仅成为了一个必需品，更成为了一个竞争优势。因为众多公司围绕软件而竞争，软件开发相关的事宜显得越发重要。开发软件的人—软件工程师正显得越发重要。2021-05-05
下面小编就为大家分享一篇Hbuilder连远程接服务器上传代码的图文教程，具有很好的参考价值，一起跟随小编过来看看吧，希望对大家有所帮助2017-11-11
Windows API函数大全，从事软件开发的朋友可以参考下2012-05-05
最新评论