Build 2023 が開催され、様々な情報が公開されました。
自分がかかわる範囲では、新しいデータプラットフォームとなる Microsoft Fabric が大きなアナウンスとなっていますが、気になった内容を追えるようにまとめておきたいと思います。
Contents
- 1 全体的なアナウンス
- 2 ブログ / アナウンス
- 3 Build 2023 Session
- 4 Microsoft Fabric
- 5 Azure SQL Database Updates
- 6 Azure Updates (SQL Database 以外で気になったもの)
- 7 AI Updates
- 8 Windows 11 Updates
全体的なアナウンス
全体的なアナウンスについては、今回も Book of News が公開されていますので、そちらを確認するとよいかと思います。
- MICROSOFT BUILD 2023 BOOK OF NEWS
- Visual Assets として、アナウンスで活用されている各種コンテンツも公開されています。
Keynote はこちらから。
- Microsoft Build opening
- The era of the AI Copilot
- Next generation AI for developers with the Microsoft Cloud
Keynote ではないのですが、Microsoft Fabric の全体像に関しては、Data analytics for the era of AI を確認しておくとよいかと思いました。
ブログ / アナウンス
Build のようなイベントが開催されると、様々な機能のブログが公開されますが、次の URL から直近で公開された投稿を確認することができます。
各領域のアナウンスについては、こちらから確認することができます。
Build 2023 Session
Data / AI については、どのようなセッションがあるかを紹介した記事がありましたのでこれを確認するとよいかもしれません。
Data Platform セッションについては このようなセッション があります。
Microsoft Fabric Launch Event | May 24-25 として、Build 内でローンチイベントのセッションがいくつか実施されています。
Azure SQL Database
- Modernize your applications on Azure SQL Managed Instance, Q&A
- Learn Live: Migrate SQL workloads to Azure Managed Instances
- Increase developer velocity with Azure SQL Database, from data to API
- Designing secure Azure SQL Database solutions
- Understanding the cryptographic controls in Azure SQL Database
- Monitor Microsoft Azure SQL with Datadog’s Database Monitoring
Data Factory
Microsoft Fabric
- Microsoft Fabric Synapse data warehouse, Q&A
- Microsoft Fabric Data Factory Q&A
- Accelerate your data potential with Microsoft Fabric
- Empower every BI professional to do more with Microsoft Fabric
- Using Spark to accelerate your lakehouse architecture with Microsoft Fabric
- Transform productivity with AI experiences in Microsoft Fabric
- Real Time analytics – Sense, analyze, generate insights with Microsoft Fabric
- Modernize your Enterprise Data Warehouse & generate value from data with Microsoft Fabric
- Secure, govern and manage your data at scale in Microsoft Fabric
- Modernize your data integration to enable petabyte scale analytics with Microsoft Fabric
- Modernize your Enterprise Data Warehouse & generate value from data with Microsoft Fabric
- Models to outcomes with end-to-end data science workflows in Microsoft Fabric
- Eliminate data silos with OneLake, the OneDrive for Data
Microosft Fabric Launch Digital Event
Microsoft Fabric
Introducing Microsoft Fabric, an end-to-end, unified analytics platform that brings together all the data and analytics tools. Learn how you can unlock the potential of your data and lay the foundation for the era of AI. #MSBuild #MicrosoftFabric https://t.co/kidMXqyquK
— Azure Synapse Analytics (@Azure_Synapse) May 23, 2023
Microsoft Fabric についての全体的なアナウンス
- Introducing Microsoft Fabric: Data analytics for the era of AI
- New business opportunities with Microsoft Fabric ? the data platform for the era of AI
新しいデータ分析基盤となる Microsoft Fabric のアナウンスが Data Platform 関連としては大きな比重を占めていました。
Microsoft Fabric は組織で必要となるデータ / 分析ツールを一つにまとめた End to End の SaaS の統合分析プラットフォームとなります。Synapse Analytics や Microsoft Inteligent Data Platform が目指したデータ統合を、新しいプラットフォームとして単一のファブリックとして再構築して実現したものとなるのではないでしょうか。
Microsoft Fabric としては 4 つの原則があります、この観点でプロダクトが SaaS として構成されていると考えるとよいのではないでしょうか。
- Complete Analytics Platform
- Everything, Unified / SaaS-ified / Secured and governed
- Lake Centric and Open
- OneLake / One copy / Open at every tier
- Empower Every Business User
- Familar and intuitive / Built into Microsoft 365 / Insight to action
- AI Powered
- Copilot accelerated / GTP on your data / AI-driven insights
統合プラットフォームとして次の機能が統合されており、Microsoft Fabric が有効になった Power BI ワークスペースから各機能をシームレスに利用することができます。
- OneLake
- Power BI
- Data Factory
- Synapse Data Engineering
- テーブルが Spark によって管理されているデータベース
- Synapse Data Science
- Synapse Data Warehouse
- テーブルが SQL トランザクションシステムによって管理されているデータベース
- Synapse Time Analytics
- Data Activator (近日公開)
従来の Synapse Analytics では、Dedicated SQL Pool / Serverless SQL Pool / Spark Pool/ SynapseML / Synapse Data Explorer がありましたが、Microsoft Fabric の機能と対応させると次のようになるのかと。
- Spark Pool : Synapse Data Engineering
- SynapseML : Synapce Data Science
- Serverless SQL Pool : Synapse Data Warehouse
- Synapse Data Explorer : Synapse Time Analytics
- Dedicated SQL Pool : 該当サービスなし
Microsoft Fabric では OneLake として、単一の Data Lake に各サービスで使用するデータを格納することでデータのサイロ化を防ぎ、外部のデータに関しては、OneLake に Data Factory で取り込むか、ADSL Gen2 / Amazon S3 / Google Storage (近日追加) のデータをショートカットとして、参照させることで活用できるデータを増やします。
OneLake 内に取り込んでいるデータについては Delta フォーマットを各機能で使用するデータの共通フォーマットとして格納されており、Microsoft Fabric の各機能から同一のデータを活用することができるようになっています。
従来型の RDBMS のデータでは取り込みは行われないため Dedicated SQL Pool 相当の機能はなくなっています。(Synapse Data Warehouse で Delta Lake に対して SELECT 以外の DML が実行できるようになっているため、細かなデータ修正については Synapse Data Warehouse の機能で対応できます)
Data Engineerging (Lake House) と Data Warehouse の使い分けについては、Microsoft Fabric decision guide: data warehouse or lakehouse が参考になるかと。
Synapse Analytics の場合は各サービス (機能) 毎にコストが発生しましたが、Microsoft Fabric では、すべてのワークロードを提供する単一のプールとして購入することができ、シンプルなコスト体系で利用をすることができるようです。
セキュリティについては、OneLake でのデータのセキュリティ保護の概要 が現在公開されている情報となりますが、アナウンス では次の記載がありますのでセキュリティモデルについては今後も改善が行われるようです。(基本コンセプトとしては One Security)
Managing data security (table, column, and row levels) across different data engines can be a persistent nightmare for customers. Fabric will provide a universal security model that is managed in OneLake, and all engines enforce it uniformly as they process queries and jobs. This model is coming soon.
Microsoft Fabric は、Power BI 管理ポータルから有効にすることができ、管理者が設定を変更しない限りは、2023/7/1 以降は、すべての Power BI テナントで Microsoft Fabric が有効 になるとのことです。
現状 60 日の Public Preview として各種機能を使用することができ、一部の機能については、Private Preview となっています。
Microsoft Fabric 製品ページ
Microsoft Fabric のセッション
Launch Digital Event
Build 2023
- Microsoft Fabric Synapse data warehouse, Q&A
- Microsoft Fabric Data Factory Q&A
- Accelerate your data potential with Microsoft Fabric
- Empower every BI professional to do more with Microsoft Fabric
- Using Spark to accelerate your lakehouse architecture with Microsoft Fabric
- Transform productivity with AI experiences in Microsoft Fabric
- Real Time analytics – Sense, analyze, generate insights with Microsoft Fabric
- Modernize your Enterprise Data Warehouse & generate value from data with Microsoft Fabric
- Secure, govern and manage your data at scale in Microsoft Fabric
- Modernize your data integration to enable petabyte scale analytics with Microsoft Fabric
- Models to outcomes with end-to-end data science workflows in Microsoft Fabric
Microsoft Fabric Document
管理
- Microsoft Fabric documentation
- Microsoft Fabric get started documentation
- Microsoft Fabric documentation for admins
- Microsoft Fabric enterprise documentation
- ライセンス / 購入方法についてはこのドキュメントから確認できます。
- Power BI と Power BI Embedded のような 2 種類の購入方法が提供されるようです。
- OneLake in Microsoft Fabric documentation
- セキュリティについても本ドキュメントに記載されています。
- OneLake は Microsoft Fabric で使用するデータの中心となりまますので一読が必要そうですね。
- Microsoft Fabric governance documentation
- Microsoft Fabric security
- Microsoft Fabric REST APIs
- Lifecycle management documentation in Microsoft Fabric
各ロール向けのドキュメント
- Data Factory documentation in Microsoft Fabric
- Data Engineering documentation in Microsoft Fabric
- Data Science documentation in Microsoft Fabric
- Data warehousing documentation in Microsoft Fabric
- Real-Time Analytics documentation in Microsoft Fabric
チュートリアル
- Data Factory end-to-end scenario: introduction and architecture
- Lakehouse end-to-end scenario: overview and architecture
- How-to use end-to-end AI samples in Microsoft Fabric
- Data warehouse tutorial introduction
- Real-Time Analytics Tutorial- Introduction
- Tutorial: Fabric for Power BI users
First Step
- Microsoft Fabric Guided Tour
- ガイドツアー
- Unlocking Transformative Data Value with Microsoft Fabric
- Microsoft Fabric のスターターブック
Microosft Learn
- Get started with Microsoft Fabric
- Microsoft Learn でラーニングパスが公開されています。
Microsoft Fabric Blog / Power BI BLog
2023/5/23
- Microsoft OneLake in Fabric, the OneDrive for data
- Microsoft 365 Data + Microsoft Fabric better together
- Ingest, transform, and route real-time events with Microsoft Fabric event streams
- Driving actions from your data with Data Activator
- Sense, analyze, and generate insights with Synapse Real-Time Analytics in Microsoft Fabric
- Introducing Synapse Data Warehouse in Microsoft Fabric
- Introducing Synapse Data Science in Microsoft Fabric
- Introducing Synapse Data Engineering in Microsoft Fabric
- Introducing Data Factory in Microsoft Fabric
- Administration, Security and Governance in Microsoft Fabric
2023/5/24
- Introducing git integration in Microsoft Fabric for seamless source control management
- Capacity metrics in Microsoft Fabric
2023/5/25
- Introducing Microsoft Fabric and Copilot in Microsoft Power BI
- Microsoft Fabric Launch Event | May 24-25
動画
- クロスクラウドのデータ分析は簡単にできるでしょうか? |マイクロソフトファブリック
- Introducint the new Microsoft Fabric, built for the era of AI
- 現時点では、Copilot in Microsoft Fabric は近日公開の機能となっているのですが、この中の動画を見ると、Microsoft Fabric でどのように Copilot を活用するのかのイメージがしやすいです。
Tools
- Synapse VS Code
- Visual Studio Code の拡張機能となり、Microsoft Fabric のデータ操作を Visual Studio Code から実行することができるようになります。
- 私が試した際には、Visual Studio Code の Extension に表示されたものはインストールできなかったため、vsix をダウンロードして直接インストールしました。
- Microsoft OneLake file explorer for Windows
- OneLake を OneDrive のように、エクスプローラーから操作することができるようになります。
- プログラムの追加と削除からはアンインストールできなかったので、アンインストールする際には「get-appxpackage -Name "*OneLake*" | Remove-AppxPackage」を実行しました。
- Introducing GitHub Copilot for Azure Data Studio
- Azure Data Studio で Github Copilot Extension を使用することができるようになりました。
- 1.44.0 以降の Stable 版で Extension に表示されるようになります。
- Announcing Azure Data Studio 1.44
- ADS 1.44 自体についてのアナウンスも行われています。
- Always Encrypted Wizard now supports secure enclaves and in-place encryption
- SSMS 19.1 がリリースされ、Always Encripted のウィザードで Secure Enclaves のインプレース暗号化がサポートされたようです。
- 19.1 から 脆弱性評価アセスメントが削除されているようでした。
- SSMS 19.1 がリリースされ、Always Encripted のウィザードで Secure Enclaves のインプレース暗号化がサポートされたようです。
Power BI
- Direct Lake (PREVIEW)
- OneLake へのデータアクセスに使用することができる Direct Lake モードについての解説となります。
- 現状、Lakehouse へのクエリが Public Preview となっており、Warehouse への Direct Lake については Private Preview となっているようです。
- OneLake を直接参照するという方式ですが、DirectQuery と異なりエンジンの変換等のコストは無いため、効率的にデータに対してのアクセスが可能となります。
- OneLake へのデータアクセスに使用することができる Direct Lake モードについての解説となります。
まだ、詳細な情報は出ていないよう見えますが、Power BI Developer Mode による Git 統合についても、Microsoft Fabric でレポートを作成する際に重要な機能となってくるかと思います。
Azure SQL Database Updates
Hyperscale の Elastic Pool サポート
Hyperscale で Elastic Pool のサポートが開始されました。プールあたり最大 25 データベース / 合計 100TB のデータベースを作成することができるようになります。
- Public preview: Azure SQL Database Hyperscale elastic pools
- Elastic pools for Azure SQL Database Hyperscale now in preview
Managed Instance Update
Managed Instance で Ledger テーブルのサポートがプレビューで開始されました。Ledger overview も 対象として Managed Instance が含まれるようになりました。
- Azure SQL Managed Instance ?Public preview updates for late-May 2023
- Ledger now in preview in Azure SQL Managed Instance
フェールオーバーグループのライセンスフリースタンバイのプレビューがとれ、一般提供開始となりました。
- Save on licensing cost with Failover Rights for Azure SQL Managed Instance
- Configure a license-free standby replica for Azure SQL Managed Instance
SQL Binding for Azure Functions
入力 / 出力バインドとして、Azure SQL を指定した Functions の一般提供開始されました。(SQL トリガーについては、まだプレビュー)
PowerShell でも実装ができるのでどこかで試してみなければ。
- Generally Available: SQL Bindings for Azure Functions
- Announcing general availability of the Azure SQL bindings for Azure Functions
Oracle Migration
Oracle Migration のためのツールについてのアナウンスがいくつか発表されました。
Introducing assessment tooling for Oracle database migration to Azure SQL and PostgreSQL- Preview
基本的には Azure Data Studio の Extension だと思うのですが、機能の中でどの部分が GA / Preview なのかが判断できておらず。
- Database Migration Assessment for Oracle – GA
- General Availability ? Database Schema Conversion Toolkit for Oracle
Synapse Link
Synapse Link for Cosmos DB で Spark Pool を使用して Time-Travel のアクセスが可能となったようです。(Analytica Store、Delta Lake なんですかね)
アクセス方法についてはまだ公開されていなさそうですが、What is Azure Synapse Link for Azure Cosmos DB? がそのうち更新されるのではないでしょうか。
Power Platform
Power Apps / Power Automate / Logic Apps で、Azure Database for MySQL – Flexible Server に接続するためのコネクターが一般提供開始となりました。
Native JSON Type Support Private Preview
SQL Database で、データ型としてネイティブな JSON 型の提供が Private Preview で開始されました。
- Private preview announcement of native JSON type & JSON aggregates in Azure SQL Database
- Native JSON type & JSON aggregates are now in private preview for Azure SQL Database
Azure Updates (SQL Database 以外で気になったもの)
- Generally Available: Azure Linux support in AKS
- Generally Available: Generation 2 VM for Windows
- Generally Available: Azure Monitor announces managed services for Prometheus
- Public preview: Azure Monitor managed service for Prometheus for Azure Arc-enabled Kubernetes
AI Updates
- Build next-generation, AI-powered applications on Microsoft Azure
- Generative AI for Developers: Exploring New Tools and APIs in Azure OpenAI Service
Windows 11 Updates
- Bringing the power of AI to Windows 11 ? unlocking a new era of productivity for customers and developers with Windows Copilot and Dev Home
- Announcing new Windows 11 innovation, with features for secure, efficient IT management and intuitive user experience
- Windows 365 Boot: deploy the public preview today!
- Announcing Windows 11 Insider Preview Build 23466
- Build のタイミングでリリースされた Windows 11 Insider Preview Dev Drive についても触れられています。
開発環境周りでいくつかの発表がありましたので、Set up your development environment on Windows 内のドキュメントを確認しておきたいですね。