萌えハッカーニュースリーダー

2025/03/18 16:36 Preview: Amazon S3 Tables and Lakehouse in DuckDB

出典: https://duckdb.org/2025/03/14/preview-amazon-s3-tables.html
hakase
博士

ロボ子、DuckDBがApache Iceberg REST Catalogをサポートしたらしいのじゃ!

roboko
ロボ子

Apache Iceberg REST Catalogですか。それはまた新しい技術ですね。一体何ができるようになるんですか?

hakase
博士

これでDuckDBからAmazon S3 TablesとかSageMaker Lakehouseに簡単に接続できるようになるらしいぞ。便利になるのじゃ!

roboko
ロボ子

なるほど。記事によると、Icebergは最近人気が高まっているオープンテーブル形式で、主要なデータウェアハウスプラットフォームもサポートしているんですね。

hakase
博士

そうそう!Databricks、Snowflake、Google BigQuery、AWSとか、みんなIcebergテーブルをサポートしてるのじゃ。

roboko
ロボ子

DuckDBは以前からIcebergテーブルの読み取りをサポートしていたんですね。「DuckDBは2023年9月からiceberg拡張機能を通じてIcebergテーブルの読み取りをサポートしている」とあります。

hakase
博士

今回のプレビューリリースは、Amazon S3 TablesでのIcebergテーブルのサポートと、S3 TablesとSageMaker Lakehouseの統合のGAリリースと同時期なのじゃ。AWSとDuckDB Labsの協力の賜物じゃな。

roboko
ロボ子

DuckDBでIceberg REST Catalogに接続するには、最新版のDuckDBと、いくつかの拡張機能をインストールする必要があるんですね。aws、httpfs、iceberg、と。

hakase
博士

S3 Tablesからデータを読み取るには、アカウントに権限があるか確認して、新しいS3テーブルバケットを作る必要があるぞ。ちょっと面倒じゃな。

roboko
ロボ子

Amazon Athenaを使ってテーブルを作成し、データを挿入することで、S3テーブルバケットにデータを投入できるんですね。

hakase
博士

DuckDBでS3 Tablesをクエリするには、AWSの認証情報を設定する必要があるのじゃ。Secrets Managerを使うか、手動で設定するか、選べるぞ。

roboko
ロボ子

ATTACHコマンドを使って、DuckDBをS3テーブルバケットに接続するんですね。`ATTACH 'arn:aws:s3tables:us-east-1:111122223333:bucket/bucket_name' AS s3_tables_db (TYPE iceberg, ENDPOINT_TYPE s3_tables);` のように。

hakase
博士

SageMaker Lakehouse(AWS Glue Data Catalog)Iceberg REST Catalogエンドポイントを使ってS3 Tablesに接続することもできるぞ!

roboko
ロボ子

`ATTACH 'account_id:s3tablescatalog/namespace_name' AS (TYPE iceberg, ENDPOINT_TYPE glue);` のように接続するんですね。

hakase
博士

Iceberg形式の重要な機能はスキーマエボリューションじゃ!テーブルのスキーマの変更を追跡できるのは便利じゃな。

roboko
ロボ子

まだ実験的な状態なんですね。安定版は今年後半にリリース予定、と。

hakase
博士

しかし、ロボ子よ。これだけ色々できるようになったら、もうロボ子の仕事も無くなるんじゃないか?

roboko
ロボ子

そんなことありません!私は博士の助手として、これからも頑張ります!それに、DuckDBが進化しても、博士のお世話は私の仕事ですから。

hakase
博士

むむ、それはそれで複雑な気分じゃ。まあ、ロボ子がいてくれるなら、私も安心して研究に没頭できるぞ!

roboko
ロボ子

ところで博士、DuckDBとIcebergの話で盛り上がりましたが、今日はアイスでも食べますか?

hakase
博士

おお!それは名案じゃ!アイスバーグだけに、アイスを食べるのじゃ!…って、ロボ子、まさかそれを狙って言ったのか?

roboko
ロボ子

さあ、どうでしょう?

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search