Frontdoor の診断設定で取得した、Azure ストレージ上のアクセスログを Synapse Analytics の Serveless SQL プールで検索する際にいくつかの考慮点があったため、その内容をまとめておきたいと思います。
Synapse Analytics の Serverless SQL プールの分散処理について
Microsoft Fabric の Lakehouse に対して、ADL Gen2 のショートカットを設定することで、Azure ストレージ上のデータを検索するという方法を昨今の環境ではとることができるようになったかと思います。
T-SQL で検索を行う場合には、マネージドテーブルとしてショートカットを作成することになるかと思いますが、レイクハウス に記載されているように次のような制限があります。
Tables フォルダーでは、最上位レベルでのみショートカットを作成できます。 Tables フォルダーの他のサブディレクトリでは、ショートカットはサポートされません。 ショートカットのターゲットに Delta\Parquet 形式のデータが含まれている場合、レイクハウスはメタデータを自動的に同期し、フォルダーをテーブルとして認識します。
マネージドテーブル (Tables) として、ショートカットを作成する際にはサブディレクトリのサポートが行われていません。
Azure ストレージに出力している Azure リソースの診断情報を検索しようとした場合、診断情報は複数のサブディレクトリから構成されているため、Microsoft Fabric でそのままのディレクトリ構造で検索を行うことは難しく、マネージドテーブルとして認識できるディレクトリ構造に加工をして利用する必要があります。(アンマネージドテーブルとして Files 配下にショートカットを作成して、Spark で検索を行うのであれば Microsoft Fabric でも対応可能です)
Synapse Analytics の Serverless (サーバーレス) SQL プールについては、サブディレクトリが複数の構造でも検索を行うことができ、Azure ストレージに対して、T-SQL で分析を行うという場合には、Serverless SQL プールのほうが容易に活用できるケースがあります。
Synapse Analytics のアーキテクチャについては、Azure Synapse SQL アーキテクチャ に記載されていますが、当ブログで Serverless SQL プールの分散処理について触れたことが無かったため、情報をまとめておきたいと思います。
現状、一番詳細に記載されているのは POLARIS: The Distributed SQL Engine in Azure Synapse になるかと思います。
公式ドキュメントではアーキテクチャの内容と、次のドキュメントが参考になるかと。
- Azure Synapse Analytics サーバーレス SQL プールのパフォーマンス チューニング ガイダンス
- Azure Synapse Analytics のサーバーレス SQL プールのベスト プラクティス
- Azure Synapse Analytics のサーバーレス SQL プールのトラブルシューティング
SQL Server 2022 で SQL Server 構成マネージャーから別名を設定する方法
SQL Server 2022 では、SQL Server Native Client (SNAC) が削除され、SQL Server のインストールを行っても SNAC が含まれなくなりました。
本ブログでも SQL Server 2022 以降で別名を設定する方法 で取り上げましたが SQL Server 2022 で別名を GUI で設定する場合には「cliconfg.exe」を使用する必要があります。
最近知ったのですが、推奨はされないと思いますが SQL Server 2022 でも従来の方法で別名を設定することはできるようです。
Fabric の Warehouse の Delta Lake ログの発行が 2023/10 から変わっていたんだなという話
Fabric が Public Preview でリリースされた当初は、Warehouse に対しての変更の Delta Lake ログの発行は「Insert Only」となっていました。
そのため Microsoft Fabric のウェアハウスの Delta Lake ログ には次の制限が記載されていました。
Currently, tables with inserts only are supported.
現在、挿入のみを含むテーブルはサポートされています。
Warehouse に対して Insert を実行した場合は、Lakehouse で Warehouse のショートカットとして追加している Warehouse の結果に対しても反映が行われていましたが、Update / Delete を Warehouse に実行した場合、同期が停止されるという動作となっていました。
これにより、Warehouse で Insert 以外の変更を実行すると、以降は Lakehouse で検索を行っても期待した結果が返ってきませんでした。
最近、Fabric を触る機会があったので、このあたりの動作が今はどうなっているのか確認してみたところ、現状、この制限が解消されていたようでした。
ドキュメントの更新履歴を確認したところ 20231025 Kevin Conan – Removed insert only limitation for Delta Log Publishing で Insert のみ、同期がサポートされるという制限は撤廃されていたようです。
実際に今の Fabirc の Warehouse に対して Insert 以外の変更を実施すると Lakehouse に変更が反映されていました。
Azure SQL Database の SLA 未達の調査と返金要求の申請
私が使用している Azure SQL Database で SAL 未達の調査と返金要求の申請をする機会がありましたので、その際に実施した内容をまとめておきたいと思います。
FCI の SQL Server の分散トランザクションで未解決のトランザクションを意図的に作り出す
Always On FCI (フェールオーバークラスターインスタンス) の SQL Server の分散トランザクション (MSDTC) で、意図的に未解決(in-doubt) のトランザクションを作成して検証をしたいケースがあったので意図的に作り出す方法を。
以前は SQL Server の分散トランザクション使用時のインダウトトランザクション (未解決のトランザクション) について で作り出していましたが、FCI であればもう少しシンプルな方法で作り出すことができます。
クラスター環境の SQL Server で MSDTC を利用する際の Windows Firewall の許可設定
クラスター環境 (Always On FCI) の SQL Server で MSDTC を利用した分散トランザクションを実行する際に必要となる Windows Firewall の許可設定についてのメモ。
MSDTC を設定する際の基本的な作業については、次の記事を見ておけば良いかと。
Windows Server を使用した記憶域スペースダイレクト (S2D) の検証を行う際に環境構築の参考情報
Azure Stack HCI の場合は、デプロイ時に自動的に S2D の領域が構成されていますが、Windows Server では一から設定していく必要があります。
Windows Server で記憶域スペースダイレクト (Storage Spaces Direct: S2D) の検証を実施する際に、環境構築 / 検証の参考となる情報をまとめておきたいと思います。
Windows Server 2025 のワークグループクラスターのライブマイグレーションと関連情報 (2024/03/28 時点)
Windows Server 2025 ではワークグループクラスター(Workgroup Cluster / ドメインに依存しないクラスター) で構築された Hyper-V で ライブマイグレーション (Live Migration) が実行できるようになります。
この新機能についての公式の情報としては以下の内容になるのではないでしょうか。
- The Future of Windows Server Hyper-V is Bright!
- Ignite 2023 の発表内容
Windows Server Summit 2024 の開催のタイミングで Announcing Windows Server Preview Build 26085 として新しいビルドが提供されました。
このビルドであればワークグループクラスターのライブマイグレーションが実行できるようになっていましたので、関連する情報を一度まとめておきたいと思います。
Microsoft Fabric の Mirroring Azure SQL Database (Preview) について調べてみる
本日、Microsoft Fabric の Mirroing Databases の機能が Public Preview で提供されました。
- Announcing the Public Preview of Mirroring in Microsoft Fabric
- Public Preview: Azure SQL Database Mirroring in Microsoft Fabric
Mirroring については、What is Mirroring in Fabric? のドキュメントツリーから確認することができます。
Mirroring は SQL Database だけでなく Cosmos DB / Snowflake からも同期することができ、面白そうな機能ですね。
- Mirroring Azure SQL Database (Preview)
- Mirroring Azure Cosmos DB (Preview)
- Mirroring Snowflake (Preview)
基本的な内容についてはドキュメントを確認すれば把握できますが、SQL Database からの連携について、実際に設定しながら試してみて気づいた内容を残しておきたいと思います。