BioErrorLog Tech Blog

試行錯誤の記録

クラウド

count制御したリソースをoutputする | Terraform

作成するか否かをcountで制御したリソースをoutputする方法を整理します。 はじめに count制御したリソースをoutputする やり方1:one関数を使う やり方2:try関数を使う おわりに 参考 はじめに こんにちは、@bioerrorlogです。 Terraformではcountを指定…

boto3とbotoの違い | AWS SDK for Pythonの歴史を調べる

boto3とbotoの違いや、そもそもの"boto"の由来など、AWS SDK for Pythonの歴史を調べてまとめます。 はじめに AWS SDK for Pythonの歴史 boto3とbotoの違い boto2はどこに行ったのか "boto"の由来 おわりに 参考 はじめに こんにちは、@bioerrorlogです。 AW…

RustのAWS LambdaをTerraformで実装する

Rustで書いたAWS LambdaをTerraformでデプロイする方法の備忘録です。 はじめに RustのAWS LambdaをTerraformで実装する 作ったもの Terraformの実装 Lambda用Rustパッケージの実装 1. cargo-lambdaのインストール 2. 新規Lambdaパッケージを生成 3. Rustコ…

AWSデータ分析基盤の良質な学習資料をまとめる

データ基盤領域について、AWS公式から出ている良質な学習資料/参考資料をまとめます。 はじめに AWSデータ分析基盤の学習資料まとめ AWS Well-Architected Framework - Data Analytics Lens AWS Whitepapers - Analytics & Big Data AWS Reference Architect…

GitHub ActionsでTerraformフォーマットチェック | terraform fmt

GitHub Actionsでterraform fmtをチェックする方法をメモします。 はじめに GitHub Actionsでterraform fmt おわりに 参考 はじめに こんにちは、@bioerrorlogです。 コードのフォーマットチェックをCIで自動担保させることは、シンプルですが大切なことです…

TerraformでAWSアカウントIDを取得する

Terraformで現在のAWSアカウントIDを取得する方法の備忘録です。 はじめに TerraformでAWSアカウントIDを取得する おまけ: Terraformソースコードを読む おわりに 参考 はじめに こんにちは、@bioerrorlogです。 Terraformを書いているとき、arnの指定等でAW…

Terraformにおける三項演算子の使い方

Terraformの三項演算子の使い方と、その使用例をまとめます。 はじめに Terraformで三項演算子 使い方 具体例 シンプルな例 条件演算子を組み合わせ 型がcastされる例 エラー: 異なる型を指定 エラー: bool以外をconditionに指定 活用事例:resource count …

GitHub Actionsで別レポジトリをcloneする

GitHub Actions内で別レポジトリをcloneする方法をまとめます。 はじめに GitHub Actionsで別レポジトリをcloneする やり方 やってみた おわりに 参考 はじめに こんにちは、@bioerrorlogです。 依存関係を持つレポジトリが別にある場合、GitHub Actions内で…

TerraformでDEBUGレベルのログを出力する

Terraformで出力ログレベルを変更するやり方の備忘録です。 はじめに TerraformでDEBUGレベルのログを出力する TerraformとProviderで個別にログの出力レベルを設定する おまけ: Terraformのソースコードを読む おわりに 参考 はじめに こんにちは、@bioerro…

terraform plan結果がNo changesでないときに異常終了させる方法

terraform plan結果がNo changesかどうかを検知するのに便利な方法をメモします。 はじめに terraform plan結果がNo changesでないときに異常終了させる おわりに 参考 はじめに こんにちは、@bioerrorlogです。 terraform applyした直後であっても、terrafo…

GitHub Actionsでデフォルトの作業ディレクトリを絶対パスで取得する

GitHub Actionsでデフォルトの作業ディレクトリを絶対パスで取得する方法の備忘録です。 はじめに デフォルト作業ディレクトリの絶対パスを取得する ${{ env.GITHUB_WORKSPACE }} では取得できない $GITHUB_WORKSPACE で取得できる ${{ github.workspace }} …

エラー対処: YAML_FILE_ERROR Message: Expected Commands[0] to be of string type | CodeBuild

CodeBuildにおける下記エラーの原因と対処法を整理します。 YAML_FILE_ERROR Message: Expected Commands[0] to be of string type: found subkeys instead at line 6, value of the key tag on line 5 might be empty はじめに 原因は"コロン+スペース" 解…

Terraformで文字列を切り出す | substrの使い方

Terraformのsubstrを使って、文字列を切り出す/抽出するやり方を整理します。 はじめに substrの使い方 基本の使い方 マイナス値を活用する おわりに 参考 はじめに こんにちは、@bioerrorlogです。 substr関数を使えば、Terraformで文字列を切り出すことが…

Terraformのvariableで特定パターンを強制/validateする

Terraformのmodule variableで、特定パターン・条件を強制/validateする方法を整理します。 はじめに Terraformのvariableで特定パターンを強制する やり方 活用例: AMI ID 活用例: S3 URI おわりに 参考 はじめに こんにちは、@bioerrorlogです。 Terraform…

!FindInMapを!Subの中で使う | CloudFormation

AWS CloudFormationで!FindInMapを!Sub内で使うやり方をまとめます。 はじめに !FindInMapを!Subの中で使う おわりに 参考 はじめに こんにちは、@bioerrorlogです。 CloudFormationの!Subは値を代入/置換 ("substitute")できる関数、!FindInMapはMappingsか…

Athena経由でpandas DataFrameを作成する

Amazon Athena経由でpandas DataFrameを作成するやり方をまとめます。 はじめに awswrangler (AWS SDK for pandas)とは Athena経由でpandas DataFrameを作成する おわりに 参考 はじめに こんにちは、@bioerrorlogです。 Amazon Athenaクエリ経由でpandas Da…

boto3でエラーハンドリングする方法をまとめる | AWS SDK for Python

boto3でエラーハンドリングする方法を整理します。 はじめに boto3でエラーハンドリングする client.exceptions botocore.exceptions コード例 おわりに 参考 はじめに こんにちは、@bioerrorlogです。 boto3で発生するエラーをcatchしようとしたときに、少…

AWS Config advanced queyのスキーマ定義の記載場所と使い方をまとめる

AWS Config advanced queyで指定できるスキーマ定義 (カラム名/propertiesの一覧) がある場所と、使い方をまとめます。 はじめに AWS Config advanced queyのスキーマ定義はどこにあるのか 場所 使用例 おわりに 参考 はじめに こんにちは、@bioerrorlogです…

boto3 clientのendpoint URLを確認する | AWS SDK for Python

作成済みboto3 clientのendpoint URLを確認する方法をまとめます。 はじめに 環境 boto3 clientのendpoint URLを確認する client.meta.endpoint_url client._endpoint.host おわりに 参考 はじめに こんにちは、@bioerrorlogです。 boto3クライアントの宣言…

Fargateでエフェメラルストレージを拡張する

FargateのエフェメラルストレージをAWS CLIを用いて拡張する方法をまとめます。 はじめに 前提条件 Fargateでエフェメラルストレージを拡張する Task Definition作成時にエフェメラルストレージを指定する Run Task時にエフェメラルストレージを指定する お…

Lambdaコンソールでコードが読めない時の対処法 | too large to enable inline code editing

The deployment package of your Lambda function XXX is too large to enable inline code editing. However, you can still invoke your function. Lambdaコンソールにて上記のエラーが出てコードが読めない時に、コードを取得する方法をメモします。 はじ…

DeletionPolicyの変更が反映されないときの対処法 | CDK/CloudFormation

CDKやCloudFormationにて、変更したDeletionPolicy (RemovalPolicy)がStackに反映されない時の対処法を残します。 はじめに DeletionPolicyの変更が反映されないときの対処法 起こったこと 原因 対処法 おわりに 参考 はじめに おはよう。@bioerrorlogです。…

AWS CDKでTagを付与する

AWS CDKでTagを付与する方法の備忘録です。 はじめに 環境 CDKでTagを付与する 具体例 Stack単位でTagを付与する Construct単位でTagを付与する 補足: 非推奨のTag付与方法 おわりに 参考 はじめに こんにちは、@bioerrorlogです。 CDKでリソースにTagを付与…

CI/CDとは何か | 定義を改めて整理する

CI/CDの定義と概念を改めて整理します。 はじめに CI/CDとは Continuous Integration/継続的インテグレーションとは Continuous Delivery/継続的デリバリーとは Continuous Deployment/継続的デプロイとは おわりに 参考 はじめに こんにちは、@bioerrorlog…

Session Managerで自動実行コマンドを設定する | AWS Systems Manager

Session Managerでセッション開始時の自動実行コマンド(shell profiles)を指定する方法と、その利用例を整理します。 はじめに 環境 Session Managerの自動実行コマンドを設定する 自動実行コマンド(shell profiles)の設定方法 利用例) デフォルトshellをbas…

Session Managerの"sh-4.2$"をbashに切り替える | AWS Systems Manager

Session Managerで表示される sh-4.2$の正体と、それをbashに切り替える方法の備忘録です。 はじめに 環境 Session Managerの"sh-4.2$"をbashに切り替える sh-4.2$の正体は何か bashに切り替える方法 おわりに 参考 はじめに こんにちは、@bioerrorlogです。…

Lambdaのboto3バージョンを確認する | AWS SDK for Python

Lambdaのboto3/botocoreバージョンを確認する方法の備忘録です。 はじめに Lambdaのboto3バージョンを確認する方法 ドキュメントから確認する Lambda上から確認する おわりに 参考 はじめに こんにちは、@bioerrorlogです。 Lambdaからboto3を用いてAWS API…

aws s3 cpコマンドで標準入出力をデータ出力/入力先に指定する | AWS CLI

AWS CLIのs3 cpコマンドにて、データの出力/入力先に標準入出力を指定する方法の備忘録です。 はじめに 環境 cpコマンドで標準入出力を活用する 標準入出力の指定方法 具体例 おわりに 参考 はじめに こんにちは、@bioerrorlogです。 AWS CLIのs3 cpコマンド…

S3 ListBucketsの実行に必要なIAM権限 | AWS

S3 ListBucketsの実行に必要なIAM PolicyのAction権限について整理します。 はじめに 検証方法 S3 ListBucketsの実行に必要なIAM権限 結論 検証 おわりに 参考 はじめに おはよう。@bioerrorlogです。 S3のAPIを利用する際のIAM Policy設定にはしばしば悩ま…

IAM Policyの"Action"に指定できる権限の一覧はどこにあるのか

IAM Policyの"Action"区内に指定できるaction権限の一覧が記載されている場所の備忘録です。 はじめに IAM Policyの"Action"に指定できるaction権限の一覧 場所 使い方 おわりに 参考 はじめに こんにちは、@bioerrorlogです。 IAM Policyの"Action"には、各…