搜索结果:spark(47 个)
按分类缩小范围
delta-sharing
综合 40
Delta Sharing 是开源的安全数据共享协议,解决跨计算平台实时交换大数据集的难题。它通过 REST 协议共享云存储上的数据,提供 Python、Spark 连接器及参考服务端,支持直接用 pandas、Spark 等工具读取 Delta Lake 或 Parquet 表。
incubator-toree
综合 40
Apache Toree 是一个专为 Apache Spark 打造的 Jupyter Notebook 内核,主要支持 Scala 语言。它让开发者能通过 Jupyter 交互式连接 Spark 集群,直接编写并运行 Spark 任务、执行代码片段、加载依赖并即时获取计算结果。
raydp
综合 40
RayDP 解决了传统 AI 流水线中 Spark 数据处理与深度学习训练常需分设独立集群、数据流转慢且运维复杂的问题。
它支持直接在 Ray 集群上运行 Spark,允许开发者在单个 Python 程序中混合编写 PySpark 与 AI 库代码;还提供将 Spark DataFrame 转换为 Ray Dataset 的 API,通过 Ray 内存对象实现高效数据交互。
spline
综合 40
Spline 是一个基于 Scala 开发的数据血缘追踪与可视化方案。它主要解决大数据处理流程中数据来源与流向不透明的问题,支持 Apache Spark 等框架。核心功能包括自动化捕获作业血缘、通过 REST/Kafka 接口传输并存储血缘数据,以及提供直观的可视化界面。
spark-excel
综合 39
spark-excel 是一个专为 Apache Spark 打造的插件,主要解决 Spark 原生不支持直接读写 Excel 文件的痛点。它能将 Excel 表格解析为 Spark DataFrame,支持指定单元格区域、表头及数据类型推断;其 V2 版本还支持多文件加载与损坏记录处理。
neo4j-spark-connector
综合 38
〔中文简介暂未生成〕 Neo4j Connector for Apache Spark, which provides bi-directional read/write access to Neo4j from Spark, using the Spark DataSource APIs
spark-solr
综合 38
spark-solr 是由 Lucidworks 开源的 Spark 与 Solr 集成工具。它主要解决两者之间的数据互通问题,核心功能包括:将 Solr 中的数据读取为 Spark DataFrame 或 RDD 进行分布式处理,以及利用 SolrJ 将 Spark 中的对象数据批量索引写入 Solr。