AWS DynamoDBのフェッチ操作

Python boto3でのDynamoDBのデータフェッチ。一覧性のあるデータを取得する場合はqueryメソッドを使用します。 ステップ 4: データをクエリおよびスキャンする - Amazon DynamoDB scanでもフィルタリングは出来るが、全件取得した後にフィルタするので、速度…

AWS SQSへのメッセージ送信

SQS( Simple Queue Service )は完全マネージドのメッセージキューイングサービス。 各システム間でのメッセージ伝達に利用します。 データベースが情報の記録を目的としたものだとしたら、キューサービスはメッセージの配送を目的とする。 尚、SQSの標準キュ…

Scala AWS SESを使用してメール送信を行う

AWS Java SDK v2 を使用して、ScalaからAmazon SES( Simple Emai Service )を利用してメール送信を行います。 こちらのページにマルチパートのメールの送信方法も含めて詳細に記述されています。 AWS SDK を使用したメールの送信 - Amazon Simple Email Serv…

AWS SESを使用してメール送信を行う

AWS SES( Simple Email Service )はAWS上で利用できるMTA。みたいなもの。 AWSから提供されているライブラリを利用することでビルトインのメールサーバのような感覚で使用できます。 SESのリージョン SESは東京リージョンはサポート対象外なので、対応してい…

AWS S3 パブリックアクセス禁止のオブジェクトに署名して一時的にアクセス可能なURLを生成する

S3のオブジェクトは署名を付与することで、署名が有効な期間内中はアクセス可能にすることができます。 署名の作成 以下の例ではPython boto3を利用して署名付URLを作成しています。 48 * 60 * 60 (48時間)内でオブジェクトの取得可能なURLを生成。 s3 = bot…

OSI参照モデル レイヤ4とレイヤ5とレイヤ6

レイヤ5とレイヤ6の記憶がいつも曖昧なので再勉強しました。 レイヤ4 トランスポート層 レイヤ4はエンドツーエンドの通信規格。 TCP TCPでは以下のような規格。 3ハンドシェイク ウィンドウ、シーケンス番号と確認応答番号による伝達メッセージの到達確認 ポ…

リピーターハブとスイッチングハブ

リピータハブ リピーターハブは接続された機器すべてに対して受け取ったパケットをブロードキャストする。 OSI参照モデルでいうところのレイヤ1の規格。接続された機器の宛先を管理しない。 ちなみにL1でスイッチするものもあるらしい。 L1スイッチの使い道:…

Scala DynamoDBを利用する

PlayframeworkからAWS SDK for Java 2.0を使用して、DynamoDBを利用したので記録しておきます。 といってもJavaのAWS SDKを使用するだけなので、Scalaはあまり関係ないかも(^_^;) 依存ライブラリ build.sbt libraryDependencies += "software.amazon.awssdk"…

AWS API Gatewayからのevent['body']がbase64 encodeされて渡される

表題の通り。 method="POST"で送信した値がHTTP APIとしたAPI GatewayからLambdaにeventを渡す際、bodyの中身がbase64 encodeされた文字列として渡される。 API GateWayから渡されるevent['body']は今の仕様だとbase64エンコードされて渡されるみたい。from …

AWS Python boto3でDynamoDBを扱う

PythonからAWSの各リソースにアクセスするにはboto3を利用します。 AWS Lambdaで利用する際は、そのままboto3が扱えるのでLambdaパッケージにboto3を含める必要はありません。 DynamoDBのリソースを取得 import boto3 dynamodb = boto3.resource('dynamodb')…

AWS DynamoDBメモ書き

インスタンスについて VPCではなくS3のようにグローバルセグメント?(この言い回しが正しいか謎(^_^;))に配置される。 プライマリキーについて RDBと同様、データを一意に特定できるプライマリキーの設定が必要。プライマリキー以外の項目はスキーマレスで自…

AWS docker-lambdaでローカル環境でlambda関数の開発を行う

先日はEC2上でLambda関数の開発を行いましたが、EC2を立てるのが手間・費用がかかるのがちょっと...という方は、docker-lambdaを使用することでLambdaコンテナの動作をエミュレートすることができます。 GitHub - lambci/docker-lambda: Docker images and t…

AWS S3イベントをトリガーにLambda Functionを実行する

Lambda FunctionはS3で発生したイベント(例えばオブジェクトのputやdelete)をトリガーに実行することができます。 ここではS3にオブジェクトをputした契機でLambda Functionを実行する方法を記述します。 Lambda関数の作成 関数の設計図から作成するとS3イベ…

lambda関数パッケージビルド用EC2を構築する

lambda関数からCPU依存のライブラリや各AWSサービスに接続を行う場合、lambdaが実行されるOS、Amazon Linuxからパッケージビルドを行えばトラブルが少ないです。 EC2にIAMロールの割り当て Lamdaで使用するIAMロール同様のEC2用のIAMロールを作成しておき割…

AWS Lambda Functionをスケジュールして定期実行する

AWS LambdaはCloud WatchのEventトリガーと連動してCronのように定期実行することができます。 定期実行Functionの作成 Cloud WatchのルールとLambda ファンクションを別々に定義することも可能ですが、Lambda関数定義時に設計図から定義すると関数作成と同…

brewでws-sam-cliとsawを導入

brewでAWS toolをインストールした時のメモ aws-sam-cli macOS への AWS SAM CLI のインストール - AWS サーバーレスアプリケーションモデル $ brew tap aws/tap $ brew install aws-sam-cli $ sam --version SAM CLI, version 0.52.0 saw saw is a multi-pu…

Playframework application.confに環境変数をbindする

環境ごとに異なる設定値をapplication.confに設けます。 OSの環境変数設定 ~/.bash_profileとかに、 export SECRET_KEY="****" と記述しておく。source ~/.bash_profileしておこう。 application.confの記述 環境変数は${?varName}で読み込めます。envvalの…

Scala Playframework S3にファイルアップロードを行う

2.x系のAWS SDK for JavaでScala + Playframework + S3アップロードを行ったのでメモしておきます。 AWS SDK for Java 2.x AWS SDK for Java 2.0 開発者ガイド - AWS SDK for Java バージョン 2 依存ライブラリの導入 僕の環境では40分ほどbuildに時間を要し…

AWS S3アクセスIAMユーザの作成とaws cliでのファイルアップロード

S3バケット 以下の作業は予めS3にYourBucketNameというbucketを作成しているものとする。 S3アクセス可能とするIAMユーザの作成 IAMユーザ作成後、インラインポリシーを作成。以下は指定のバケット(YourBuketName)に対するS3FullAccessのポリシーとなる。 { …

Playframework データアクセスするRepositoryクラスのDependencyInjection

PlayでAnornを使用していて、RepositoryクラスをDIした時のメモ。といってもAnormは関係ない。 Repositoryクラス 差し替え可能であること前提で抽象化するようtraitを用意しておく。 Trait trait ShopRepositoryTrait { def withBegin():ShopRepository def …

Vue.jsでJsonと画像をmultipartでPlayframeworkにPOSTする

WebAPIとして動作しているPlayframeworkにmultipartでJsonとファイルデータを送信します。 Vue側の実装 template axiosでPOSTするので、formにはmultipartをつけず、prevent指定でページロードしないように制御する。 <template> <form> <input type="text" v-model="shopMame"> <input @change="changeFile" type="file" name="upfile[]" multiple accept="image/*" /> </form></template>

Playframework 複雑なJsonデータをオブジェクトにmappingまたはForm bind、validateする

WebAPIとして動作しているPlayframeworkのJsonデータのパースについて。 Jsonデータは、 { "shopName":"Let it Ride", "position":{ "lat":35.66530148846749, "lng":139.41634567694945 }, "testArray":[1,2,3,4] } のように入れ子、または配列のデータを含…

Scala Akka Actorモデルについて

Akka Actorとは? Akka ActorはActorに対してメッセージを配信する仕組みを提供する。 messageの送信は非同期で送信され、透過的にキューイングされ、Actor側からはキューメッセージを取り出し同期的に処理を行う。 依存ライブラリ libraryDependencies ++= …

Scala FutureとPromiseについて

Futureは後から結果がわかるといったコンテキスト。スレッドをコンテキストの懸念に抽象化することによって、関数型プログラミングに沿ったコンテキストとしてスレッドを扱うことができる(説明が合ってるかは謎...)。 Futureを使ってみる import scala.concu…

Java Fork/Joinフレームワークについて

今日もN予備校で学習 タイトルはJavaだけどScalaの勉強で必要になったので(^_^;) 記事内のコードはScalaです。 Fork/Join フレームワーク Executorフレームワークでは、スレッドは割り当てられたキューのタスク消化を行った(待機スレッドは他スレッドのタス…

Java Executror フレームワークについて

この本読んでて、非同期処理についてもう少し知ってないと厳しいと感じて、N予備校で勉強した並行処理のことを忘れるのでメモしておく。 (function(b,c,f,g,a,d,e){b.MoshimoAffiliateObject=a; b[a]=b[a]||function(){arguments.currentScript=c.currentScr…

Twitter上のアンチプログラミングスクールの人達を観測していた話し

最近、 Twitter上のプログラミング入門者観察記 | κeenのHappy Hacκing Blog の記事を見て、実は僕も似たようなことをしていた。 僕の場合「入門者」ではなく、「「プログラミングで稼げる」的な発言をするインフルエンサー達を逆に非難したりする人達」を半…

書籍:すごいHaskellたのしく学ぼう!

軽い気持ちでScalaの勉強を始めたんだけど、"モナド"という魔法の言葉が出てきた。 調べれば調べるほどに"モナド"というものが分からなくて(笑)、そんな時に何かのレビューで、「恐らくこの本が一番初心者に分かりやすくモナドの懸念を解説してる」というの…

Scala 関数引数の遅延評価

式評価のskip、実行について 式評価の基準について。 // falseで条件外となるので{println("!!"); true}は評価されない scala> false && { println("!!"); true } res1: Boolean = false // {println("!!"); true}が評価され、式結果はtrueとなる scala> tru…

Scalaインタプリタで依存関係を解決する

この本を進めていて、途中、Eitherの実装の章でコンパイルが通らなくなった。 (function(b,c,f,g,a,d,e){b.MoshimoAffiliateObject=a; b[a]=b[a]||function(){arguments.currentScript=c.currentScript ||c.scripts[c.scripts.length-2];(b[a].q=b[a].q||[])…