This file contains ambiguous Unicode characters that may be confused with others in your current locale. If your use case is intentional and legitimate, you can safely ignore this warning. Use the Escape button to highlight these characters.
1. Подзадачи "Преобразовать любой файл набора данных stackoverflow в parquet формат c помощью Apache Spark.":
1) создать объект типа RDD для текстового файла /data/stackoverflow/posts.xml
2) добавить к каждому объекту индекс .zipWithIndex
3) убрать из коллекции строки 1, 2 и последню фильтрацией по индексу
4) из отфильтрованной коллекции строк получить коллекцию объектов scala.xml.Elem
применением метода scala.xml.XML.loadString к каждой строке
5a) определить класс-схему таблицы с именами и типами, соответствующими атрибутам и типам значений
строк в xml, используя case class
5b) преобразовать коллекцию scala.xml.Elem в коллекцию объектов вновь созданного типа
6) создать Dataset на основе коллекции объектов класса-схемы методом spark.createDataset