поиск данных в Big data, Python

У меня есть большой фрейм на 100+ миллионов строк (пусть будет f1) и второй на 5 миллионов (пусть будет f2). пример фрейма на 100 миллионов

пример фрейма на 5 миллионов

Мне нужно сравнить все строчки по сразу по 3 столбцам, типо 1f.client == 2f.client_pin AND 1f.session_id == 2f.session_id AND 1f.timestamp == 2f.timestamp, и все строчки в которых все совпало вынести в еще один отдельный фрейм. Задачу выполняю в Google Colab, по этому нужны не сильно тяжёлые для железа решения. Очень бы хотелось решение через Pyspark.


Ответы (1 шт):

Автор решения: MaxU

Попробуйте так:

res = f1.join(f2.withColumnRenamed("client_pin", "client"), 
              ["client", "session_id", "timestamp")
→ Ссылка