Hadoop

HBaseをデータストアにしたMapReduceをMRUnitでテストする時の注意

MapReduceのテストをゼロから書こうと思うと超絶しんどいですが、それをサポートしてくれるライブラリとしてMRUnitというものがあります。 使い方としては @Test public void テスト() throws Exception{ MapDriver<InKey, InValue, OutKey, OutValue> mapDriver = new MapDriver<InKey, InValue, OutKey, OutValue>(new HogeMappe</inkey,></inkey,>…

HBaseでdelete後にputしたデータがscanやgetで取得できない件

仕事でぶち当たったので備忘録。 結論としてはHBaseにおける削除というものの概念を取り違えてただけという悲しい結果だったのですが、同じ轍を踏まないようにエントリに残しておきます。 バージョン機能使ってる場合は特に注意したほうがよさそうです。 何…

Hadoopの話聞いてきた

「Hadoopを技術とサービスの両面から学ぶ勉強会」でHadoopの話を聞いてきました!*1 イベントページ http://atnd.org/events/32114 大規模分散処理基盤Hadoop活用のカンドコロ(猿田さん) Hadoopって? OSSによる大規模分散処理フレームワーク Google基盤ソフ…