H2 DatabaseとHadoopでHDFS上のファイルをBLOBとして返す関数を作成する

H2 DatabaseとHadoopでHDFS上のファイルをBLOBとして返す関数を作成するには、以下の手順を実行します。

1.以下のソースファイルをantなどでコンパイルします。
HdfsGetBinaryFunction.java

package com.serverarekore.h2;
import java.io.*;
import java.sql.*;
import org.h2.tools.*;
import org.apache.hadoop.conf.*;
import org.apache.hadoop.fs.*;
import java.net.*;

public class HdfsGetBinaryFunction
{
  static public InputStream hdfs_get_binary(String uri, 
    String user, String path)
    throws Exception
  {
    if( uri == null ){
      throw new Exception("uri is not specified.");
    }
    if( user == null ){
      throw new Exception("user is not specified.");
    }
    if( path == null ){
      throw new Exception("path is not specified.");
    }

    FileSystem fs = FileSystem.get(
      URI.create(uri), new Configuration(), user);
    InputStream ris = null;

    if( fs.exists(new Path(path)) == false ){
      return null;
    }
    InputStream is = fs.open(new Path(path));

    final File tf = File.createTempFile("lobtmp", null);
    FileOutputStream fos = new FileOutputStream(tf.getAbsolutePath());

    byte buf[] = new byte[8192];
    int rs = -1;
    try
    {
      while( (rs = is.read(buf)) != -1 ){
        fos.write(buf, 0, rs);
      }
    }
    finally
    {
      if( fos != null )fos.close();
      if( is != null )is.close();
    }

    ris = new InputStream(){
      private final InputStream fis = new FileInputStream(tf);
      private boolean deleted = false;
      private final File fn = tf;
      public int autoDelete(int sz) throws IOException
      {
        if(sz < 0 ){
          close();
        }
        return sz;
      }
      public void close() throws IOException
      {
        if( !deleted ){
          fis.close();
          fn.delete();
          deleted = true;
        }
      }
      public int read(byte buf[], int off, int len) throws IOException
      {
        return deleted?-1:autoDelete(fis.read(buf, off, len));
      }

      public int read(byte buf[]) throws IOException
      {
        return deleted?-1:autoDelete(fis.read(buf));
      }

      public int read() throws IOException 
      {
        return deleted?-1:autoDelete(fis.read());
      }
    };

    return ris;
  } 
}

build.xmlのサンプル

<project name="H2Functions" default="compile" basedir=".">
  <path id="lib.classpath">
    <fileset dir="lib">
      <include name="*.jar"/>
    </fileset>
    <pathelement location="c:/Program Files/H2/bin/h2-1.2.147.jar"/>
  </path>
  <target name="compile">
    <echo message="project: ${ant.project.name}"/>
    <mkdir dir="build/" />
    <javac srcdir="src/" destdir="build/" 
      deprecation="on" debug="on">
      <classpath>
        <path refid="lib.classpath"/>
      </classpath>
    </javac>
    <jar destfile="c:/share/jars/HdfsGetBinary.jar"
       basedir="build"/>
  </target>
  <target name="clean">
    <delete dir="build" />
  </target>
</project>

2.システム環境変数CLASSPATHにコンパイルしてできたHdfsGetBinary.jarを追加し、
H2 Databaseのサービスを再起動。

3.H2 Consoleから以下のコマンドを実行して、ファンクション作成。

create alias hdfs_get_binary for 
"com.serverarekore.h2.HdfsGetBinaryFunction.hdfs_get_binary";

4.以下のようなSQLでHDFS上のファイルをBLOBに格納できます。

drop table if exists blobtest;
create table blobtest (c1 numeric(4), c2 blob);
insert into blobtest values (1, 
  hdfs_get_binary(
  'hdfs://192.168.1.81:9000/',
  'user', '/opt/hadoop-data/SF.JPG')
);

※以下のjarをCLASSPATH環境変数に追加
hadoop-common-0.21.0.jar
hadoop-hdfs-0.21.0.jar
log4j-1.2.15.jar

動作環境
JDK6 Update22, Hadoop 0.21.0, H2 Database 1.2.147 (2010-11-21)

○関連情報
・CentOS5.5にHadoop0.21.0をインストールする
http://serverarekore.blogspot.com/2010/10/centos55hadoop0210.html
・H2 Databaseに関する他の記事はこちらを参照してください。