Подключение к кластеру c рабочей станции pyspark
Всем привет!
У меня есть кластер (Hadoop, hive, spark) из нескольких нод. Работать с ним я хочу с локальной рабочей станции (вне кластера). Для этого я установил на ней spark и настроил его, в результате чего после старта сессии
pyspark --name testfromlocal --master spark://hadoop-master.domain.ru:7077
я вижу активную задачу в spark webUI.
Доступ к hive c нее я могу получить только через beeline, подсоединившись через jdbc.
Могу ли я работать с данными в кластере с локальной машины через pyspark или spark-sql?
Как я понимаю, я смогу подсоединиться к hive через pyspark через 9083 порт по протоколу thrift, так ли это?