Подключение к кластеру c рабочей станции pyspark

Всем привет!

У меня есть кластер (Hadoop, hive, spark) из нескольких нод. Работать с ним я хочу с локальной рабочей станции (вне кластера). Для этого я установил на ней spark и настроил его, в результате чего после старта сессии

pyspark --name testfromlocal --master spark://hadoop-master.domain.ru:7077

я вижу активную задачу в spark webUI.

Доступ к hive c нее я могу получить только через beeline, подсоединившись через jdbc.

Могу ли я работать с данными в кластере с локальной машины через pyspark или spark-sql?

Как я понимаю, я смогу подсоединиться к hive через pyspark через 9083 порт по протоколу thrift, так ли это?


Ответы (0 шт):