21 December 2015

plot-gtk

System: Slackware Linux (version 14.0)
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz
Deps: ghc-7.8.4, glpk-4.57, gsl-2.1, OpenBLAS (0.2.11)

Installation of hmatrix-0.16.1.5 and plot-gtk-0.2.0.2.


http://ftp.gnu.org/gnu/glpk/
http://ftp.gnu.org/gnu/gsl/

Bootstrap ghc-7.8.4 (see earlier post), then upgrade the glpk
and gsl SlackBuilds respectively to versions 4.57 and 2.1.

Labs' provided SlackBuilds locate haskell packages'
documentation in /usr/doc/ghc-7.8.4/extralibs/, one
exception being gtk2hs-buildtools. The alex (lexer)
and happy (parser) packages place files outside of
/usr/lib/ghc-7.8.4 and /usr/doc/ghc-7.8.4, therefore
I have followed Värri's conventions in the authorship
of the gtk2hs-buildtools script.

SlackBuilds for colour and storable-complex are located in
the sidebar.

bash-4.2# installpkg OpenBLAS-0.2.11-i486-1_SBo.tgz \
> glpk-4.57-i486-1_SBo.tgz gsl-2.1-i486-1_SBo.tgz \
> haskell-HUnit-1.2.5.2-i486-2_SBo.tgz \
> haskell-colour-2.3.3-i486-1_SBo.tgz \
> haskell-extensible-exceptions-0.1.1.4-i486-1_SBo.tgz \
> haskell-mtl-2.1.3.1-i486-1_SBo.tgz \
> haskell-primitive-0.5.4.0-i486-1_SBo.tgz \
> haskell-random-1.1-i486-1_SBo.tgz \
> haskell-split-0.2.2-i486-1_SBo.tgz \
> haskell-storable-complex-0.2.2-i486-1_SBo.tgz \
> haskell-text-1.2.0.3-i486-1_SBo.tgz \
> haskell-utf8-string-0.3.8-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg happy-1.19.4-i486-1_SBo.tgz \
> haskell-hashable-1.2.3.1-i486-1_SBo.tgz \
> haskell-tf-random-0.4-i486-1_SBo.tgz \
> haskell-vector-0.10.12.2-i486-1_SBo.tgz

...

bash-4.2#


SlackBuilds for hashtables and hmatrix are located in the sidebar.

bash-4.2# installpkg haskell-QuickCheck-2.7.6-i486-1_SBo.tgz \
> haskell-hashtables-1.2.1.0-i486-1_SBo.tgz \
> haskell-hmatrix-0.16.1.5-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg alex-3.1.3-i486-1_SBo.tgz

...

bash-4.2#

A SlackBuild for gtk2hs-buildtools is located in the sidebar.

bash-4.2# installpkg gtk2hs-buildtools-0.13.0.5-i486-1_SBo.tgz

...

bash-4.2#

SlackBuilds for cairo, hmatrix-glpk, hmatrix-gsl, hmatrix-gsl-stats,
and hTensor are located in the sidebar.

bash-4.2# installpkg haskell-cairo-0.13.1.1-i486-1_SBo.tgz \
> haskell-hmatrix-glpk-0.4.1.0-i486-1_SBo.tgz \
> haskell-hmatrix-gsl-0.16.0.3-i486-1_SBo.tgz \
> haskell-hmatrix-gsl-stats-0.4.1.1-i486-1_SBo.tgz \
> haskell-hTensor-0.8.2-i486-1_SBo.tgz

...

bash-4.2#

SlackBuilds for glib, hstatistics, hmatrix-special, and
and hmatrix-tests are located in the sidebar.

bash-4.2# installpkg haskell-glib-0.13.2.2-i486-1_SBo.tgz \
> haskell-hstatistics-0.2.5.2-i486-1_SBo.tgz \
> haskell-hmatrix-special-0.3.0.1-i486-1_SBo.tgz \
> haskell-hmatrix-tests-0.4.1.0-i486-1_SBo.tgz

...

bash-4.2#

A SlackBuild for gio is located in the sidebar.

bash-4.2# installpkg haskell-gio-0.13.1.1-i486-1_SBo.tgz

...

bash-4.2#

A SlackBuild for pango is located in the sidebar.

bash-4.2# installpkg haskell-pango-0.13.1.1-i486-1_SBo.tgz

...

bash-4.2#

A SlackBuild for gtk is located in the sidebar.

bash-4.2# installpkg haskell-gtk-0.13.9-i486-1_SBo.tgz

...

bash-4.2#

A SlackBuild for plot is located in the sidebar.

bash-4.2# installpkg haskell-plot-0.2.3.4-i486-1_SBo.tgz

...

bash-4.2# 

A SlackBuild for plot-gtk is located in the sidebar.

bash-4.2# installpkg haskell-plot-gtk-0.2.0.2-i486-1_SBo.tgz

...

bash-4.2# exit

sh-4.2$ ghci
> Numeric.LinearAlgebra.Tests.runTests 20
+++ OK, passed 100 tests.
+++ OK, passed 100 tests.
... etc...
+++ OK, passed 100 tests.
------ some unit tests
Cases: 62  Tried: 62  Errors: 0  Failures: 0
> :quit
Leaving GHCi.
sh-4.2$ exit

10 December 2015

SciPy

System: Slackware Linux (version 14.0)
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz

Installation of SciPy version 0.14.1.

http://slackbuilds.org/repository/14.1/academic/
http://slackbuilds.org/repository/14.1/development/
http://slackbuilds.org/repository/14.1/libraries/
http://slackbuilds.org/repository/14.1/python/
https://pypi.python.org/pypi/scipy/0.14.1

bash-4.2# installpkg Cython-0.23.4-i486-1_SBo.tgz \
> docutils-0.11-i486-1_SBo.tgz libsodium-1.0.6-i486-1_SBo.tgz \
> OpenBLAS-0.2.11-i486-1_SBo.tgz pyparsing-2.0.3-i486-1_SBo.tgz \
> pysetuptools-18.2-i486-1_SBo.tgz pytz-2014.10-i486-1_SBo.tgz

...

bash-4.2#

A SlackBuild for zeromq is located in the sidebar.

bash-4.2# installpkg backports-ssl-match-hostname-3.4.0.2-i486-1_SBo.tgz \
> MarkupSafe-0.23-i486-1_SBo.tgz pyglet-1.2.4-i486-1_SBo.tgz \
> zeromq-4.0.7-i486-1_SBo.tgz

...

bash-4-2#

bash-4.2# installpkg Jinja2-2.7.3-i486-1_SBo.tgz \
> Pygments-2.0.2-i486-1_SBo.tgz pyzmq-14.5.0-i486-1_SBo.tgz \
> tornado-4.2.1-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg Sphinx-1.2.3-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg mock-1.0.1-i486-1_SBo.tgz nose-1.3.4-i486-1_SBo.tgz \
> numpydoc-0.5-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg six-1.10.0-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg python-dateutil-2.4.2-i486-1_SBo.tgz

...

bash-4.2#

Perhaps this code block in the numpy.SlackBuild can be commented out,
as of scipy-0.14.0 AMD and UMFPACK are no longer supported.

cat > site.cfg <<EOF
[amd]
library_dirs = /usr/lib${LIBDIRSUFFIX}
include_dirs = /usr/include/amd
amd_libs = amd

[umfpack]
library_dirs = /usr/lib${LIBDIRSUFFIX}
include_dirs = /usr/include/umfpack
umfpack_libs = umfpack
EOF

bash-4.2# installpkg numpy-1.9.1-i486-1_SBo.tgz

...

bash-4.2# python -c 'import numpy; numpy.test()' >output1 2>&1
bash-4.2# tail output1
----------------------------------------------------------------------

Ran 5588 tests in 220.939s

OK (KNOWNFAIL=5, SKIP=13)
Running unit tests for numpy
NumPy version 1.9.1
NumPy is installed in /usr/lib/python2.7/site-packages/numpy
Python version 2.7.3 (default, Jul  3 2012, 21:16:07) [GCC 4.7.1]
nose version 1.3.4
bash-4.2#

bash-4.2# installpkg matplotlib-1.4.2-i486-1_SBo.tgz \
> numexpr-2.4.6-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg ipython-3.1.0-i486-1_SBo.tgz

...

bash-4.2#

Change the version number in the scipy.SlackBuild from
0.14.0 to 0.14.1.

bash-4.2# installpkg ipython-mathjax-2.5.1-noarch-1_SBo.tgz \
> scipy-0.14.1-i486-1_SBo.tgz sympy-0.7.6-i486-1_SBo.tgz

...

bash-4.2#

bash-4.2# installpkg Bottleneck-1.0.0-i486-1_SBo.tgz

...

bash-4.2#

bash-4-2# installpkg pandas-0.17.1-i486-1_SBo.tgz

...

bash-4.2# python -c 'import scipy; scipy.test()' >output2 2>&1
bash-4.2# tail output2
Ran 16450 tests in 1295.544s

OK (KNOWNFAIL=146, SKIP=1189)
Running unit tests for scipy
NumPy version 1.9.1
NumPy is installed in /usr/lib/python2.7/site-packages/numpy
SciPy version 0.14.1
SciPy is installed in /usr/lib/python2.7/site-packages/scipy
Python version 2.7.3 (default, Jul  3 2012, 21:16:07) [GCC 4.7.1]
nose version 1.3.4
bash-4.2# exit

pandoc

System: Microsoft Windows XP Home Edition
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz
Deps: HaskellPlatform-2014.2.0.0-i386-setup.exe

Installation of pandoc version 1.15.1.1.

https://hackage.haskell.org/package/pandoc

This will upgrade attoparsec in %APPDATA%\cabal sub-directories
and may break certain other user installed Haskell packages.

C:\>cabal install pandoc --dry-run -v
Reading available packages...
Choosing modular solver.
Resolving dependencies...
In order, the following would be installed:
JuicyPixels-3.2.6.2 (new package)
SHA-1.6.4.2 (new package)
base64-bytestring-1.0.0.1 (new package)
blaze-builder-0.4.0.1 (new package)
blaze-markup-0.7.0.3 (new package)
blaze-html-0.8.1.1 (new package)
byteable-0.1.1 (new package)
cereal-0.5.0.0 (new package)
cmark-0.4.1 (new package)
data-default-class-0.0.1 (new package)
cookie-0.4.1.6 (new package)
data-default-instances-base-0.0.1 (new package)
data-default-instances-containers-0.0.1 (new package)
data-default-instances-old-locale-0.0.1 (new package)
deepseq-generics-0.1.1.2 (new package)
digest-0.0.1.2 (new package)
dlist-0.7.1.2 (new package)
data-default-instances-dlist-0.0.1 (new package)
data-default-0.5.3 (new package)
extensible-exceptions-0.1.1.4 (new package)
haddock-library-1.2.1 (new package)
hourglass-0.2.9 (new package)
hslua-0.4.1 (new package)
http-types-0.9 (new package)
memory-0.10 (new package)
asn1-types-0.3.1 (new package)
asn1-encoding-0.9.3 (new package)
asn1-parse-0.9.4 (new package)
cryptonite-0.8 (new package)
mime-types-0.1.0.6 (new package)
mmorph-1.0.4 (new package)
nats-1 (new package)
network-uri-2.6.0.3 (new package)
pem-0.2.2 (new package)
regex-pcre-builtin-0.94.4.8.8.35 (new package)
scientific-0.3.4.2 (new package)
attoparsec-0.11.3.4 (latest: 0.13.0.1) (new version)
aeson-0.7.0.6 (latest: 0.10.0.0) +new-bytestring-builder (new package)
pandoc-types-1.12.4.7 (new package)
socks-0.5.4 (new package)
streaming-commons-0.1.14.2 (new package)
tagged-0.8.2 (new package)
semigroups-0.18 (new package)
tagsoup-0.13.5 (new package)
transformers-compat-0.4.0.4 +three (new package)
exceptions-0.8.0.2 (new package)
http-client-0.4.24 -network-uri (new package)
temporary-1.2.0.3 (new package)
transformers-base-0.4.4 (new package)
monad-control-1.0.0.4 (new package)
lifted-base-0.2.3.6 (new package)
enclosed-exceptions-1.0.1.1 (new package)
resourcet-1.1.6 (new package)
unix-compat-0.4.1.4 (new package)
filemanip-0.3.6.3 (new package)
utf8-string-1.0.1.1 (new package)
highlighting-kate-0.6 (new package)
void-0.7.1 (new package)
conduit-1.2.5.1 (new package)
x509-1.6.3 (new package)
x509-store-1.6.1 (new package)
x509-system-1.6.1 (new package)
x509-validation-1.6.3 (new package)
tls-1.3.3 (new package)
connection-0.2.5 (new package)
http-client-tls-0.2.2 (new package)
xml-1.3.14 (new package)
texmath-0.8.4 (new package)
yaml-0.8.15.1 (new package)
zip-archive-0.2.3.7 (new package)
pandoc-1.15.1.1 -network-uri (new package)

C:\>cabal install pandoc

...

C:\>EXIT

14 November 2015

bcc55

System: Microsoft Windows XP Home Edition
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz

Installation of Perl version 5.10.1.
C:\Programmer\Borland\BCC55\Bin>TYPE bcc32.cfg
-I"C:\Programmer\Borland\BCC55\Include"
-L"C:\Programmer\Borland\BCC55\Lib"

C:\Programmer\Borland\BCC55\Bin>TYPE ilink32.cfg
-L"C:\Programmer\Borland\BCC55\Lib"

C:\Programmer\Borland\BCC55\Bin>CD \

C:\>SET PATH=%PATH%;C:\Programmer\dmake;C:\Programmer\Borland\BCC55\Bin

C:\>CD perl-5.10.1\win32

C:\perl-5.10.1\win32>

open the file makefile.mk in an editor,
correct the path to your installation
directory, uncomment BORLAND &
comment out GCC, correct the path
to your compiler home

INST_DRV        *= C:\Programmer
INST_TOP        *= $(INST_DRV)\perl

# Borland 5.02 or later
CCTYPE          *= BORLAND
# MinGW with gcc-2.95.2 or later
#CCTYPE         *= GCC

.IF "$(CCTYPE)" == "BORLAND"
CCHOME          *= C:\Programmer\Borland\BCC55
.ELIF "$(CCTYPE)" == "GCC"
CCHOME          *= C:\MinGW
.ELSE
CCHOME          *= $(MSVCDIR)
.ENDIF
CCINCDIR        *= $(CCHOME)\Include
CCLIBDIR        *= $(CCHOME)\Lib                                           

C:\perl-5.10.1\win32>dmake.exe

...

C:\perl-5.10.1\win32>dmake.exe test

...

C:\perl-5.10.1\win32>dmake.exe install

...

C:\perl-5.10.1\win32>EXIT

C:\DOCUME~1\UserName>TYPE perl.bat
@ECHO OFF
ECHO Perl v5.10.1
SET PATH=%PATH%;C:\Programmer\Borland\BCC55\Bin;C:\Programmer\perl\bin

C:\DOCUME~1\UserName>perl.bat
Perl v5.10.1

C:\DOCUME~1\UserName>CD Skrivebord

C:\DOCUME~1\UserName\Skrivebord>perl.exe
print "Hello, World!\n";
^D
Hello, World!

C:\DOCUME~1\UserName\Skrivebord>EXIT

Perl versions 5.12.5 and 5.14.4 shipped with \win32\config.bc files,
but these versions fail to compile due to threading issues.

Tcl/Tk shipped for a while with "experimental" makefile.bc files.
I have no comment on these at this time.

Try Igor Pavlov's 7-Zip (32-bit x86) for extraction.

CPAN setup

http://sourceforge.net/projects/mingw/files/MSYS/Base/msys-core/msys-1.0.11/
MSYS-1.0.11.exe

http://invisible-island.net/lynx/
Win32 installer lynx (color-style)

http://www.paehl.com/open_source/
From the sidebar click on the CURL [current release] button.
Download WITH SUPPORT SSL

Extract curl_xxx_x_ssl.zip and move curl.exe
into C:\MSYS\bin.

C:\DOCUME~1\UserName\Dokumenter\Downloads>DIR
 Disken i drev C har ikke noget navn.
 Diskens serienummer er C804-10A1

 Indhold af C:\DOCUME~1\UserName\Dokumenter\Downloads

27-09-2016  22:19    <DIR>          .
27-09-2016  22:19    <DIR>          ..
27-09-2016  22:19               771 curl.bat
27-09-2016  22:17               110 seven.bat
               2 fil(er)              881 byte
               2 mappe(r)  61.970.788.352 byte ledig

C:\DOCUME~1\UserName\Dokumenter\Downloads>TYPE curl.bat
@ECHO OFF

SETLOCAL
SET PATH=C:\MSYS\bin;%PATH%

curl.exe -O^
 http://www.cpan.org/authors/id/G/GA/GAAS/HTML-Parser-3.71.tar.gz -O^
 http://www.cpan.org/authors/id/G/GA/GAAS/libwww-perl-5.837.tar.gz -O^
 http://www.cpan.org/authors/id/E/ET/ETHER/URI-1.71.tar.gz -O^
 http://www.cpan.org/authors/id/I/IN/INGY/Spiffy-0.46.tar.gz -O^
 http://www.cpan.org/authors/id/I/IN/INGY/Test-Base-0.88.tar.gz -O^
 http://www.cpan.org/authors/id/I/IN/INGY/Test-YAML-1.06.tar.gz -O^
 http://www.cpan.org/authors/id/I/IN/INGY/YAML-1.15.tar.gz -O^
 http://www.cpan.org/authors/id/N/NE/NEILB/Text-Diff-1.44.tar.gz -O^
 http://www.cpan.org/authors/id/P/PE/PETDANCE/HTML-Tagset-3.20.tar.gz -O^
 http://www.cpan.org/authors/id/T/TY/TYEMQ/Algorithm-Diff-1.1903.tar.gz

ENDLOCAL
C:\DOCUME~1\UserName\Dokumenter\Downloads>TYPE seven.bat
@ECHO OFF

SETLOCAL
SET PATH=%ProgramFiles%\7-Zip;%PATH%

7z.exe e *.tar.gz && 7z.exe x *.tar

ENDLOCAL
C:\DOCUME~1\UserName\Dokumenter\Downloads>

C:\DOCUME~1\UserName\Dokumenter\Downloads>curl.bat
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100 90368  100 90368    0     0  33833      0  0:00:02  0:00:02 --:--:-- 33833
100  263k  100  263k    0     0  56889      0  0:00:04  0:00:04 --:--:-- 56979
100   97k  100   97k    0     0  47845      0  0:00:02  0:00:02 --:--:-- 46350
100 33447  100 33447    0     0  31945      0  0:00:01  0:00:01 --:--:-- 73834
100 52032  100 52032    0     0  69376      0 --:--:-- --:--:-- --:--:-- 70888
100 11470  100 11470    0     0  38750      0 --:--:-- --:--:-- --:--:--  162k
100 80702  100 80702    0     0  61463      0  0:00:01  0:00:01 --:--:--  137k
100 29535  100 29535    0     0   5040      0  0:00:05  0:00:05 --:--:--  7685
100  8150  100  8150    0     0   4010      0  0:00:02  0:00:02 --:--:--  8021
100 34174  100 34174    0     0   1718      0  0:00:19  0:00:19 --:--:--  2683

C:\DOCUME~1\UserName\Dokumenter\Downloads>seven.bat

...

C:\DOCUME~1\UserName\Dokumenter\Downloads>SET PATH=%PATH%;C:\Programmer\dmake

C:\DOCUME~1\UserName\Dokumenter\Downloads>PUSHD %USERPROFILE% && perl.bat
Perl v5.10.1

C:\DOCUME~1\UserName>POPD
C:\DOCUME~1\UserName\Dokumenter\Downloads>ECHO %PATH%
C:\WINDOWS\system32;C:\WINDOWS;C:\WINDOWS\System32Wbem;C:\Programmer\dmake;
C:\Programmer\Borland\BCC55\Bin;C:\Programmer\perl\bin

C:\DOCUME~1\UserName\Dokumenter\Downloads>

Installing these modules in the order given should suffice for enabling cpan.bat for use of LWP
and YAML: Algorithm-Diff-1.1903, Spiffy-0.46, Text-Diff-1.44, Test-Base-0.88, Test-YAML-1.06,
YAML-1.15, URI-1.71, HTML-Tagset-3.20, HTML-Parser-3.71, libwww-perl-5.837.

CD into to each extracted directory (in the given order) and run the following commands:

perl.exe Makefile.PL
dmake.exe
dmake.exe test
dmake.exe install

Installing the modules manually will avoid for the novice user some of the questions arising
from cpan.bat installation. In alternative, a FOR loop in a batch file with redirection to save
the output could be utilised.

Here's my Config.pm file, which - if one moves an uninitilsed \CPAN\Config.pm file
to \CPAN\Config.pm.bak - one can copy this one into that directory, modifiying the
paths to your executables - if they are in a different location - and change the urllist
value according to the location of your local cpan mirror.

C:\>TYPE Programmer\perl\lib\CPAN\Config.pm

# This is CPAN.pm's systemwide configuration file. This file provides
# defaults for users, and the values can be changed in a per-user
# configuration file. The user-config file is being looked for as
# /.cpan/CPAN/MyConfig.pm.

$CPAN::Config = {
  'applypatch' => q[],
  'auto_commit' => q[0],
  'build_cache' => q[100],
  'build_dir' => q[C:\\Programmer\\perl\\.cpan\\build],
  'build_dir_reuse' => q[0],
  'build_requires_install_policy' => q[ask/yes],
  'bzip2' => q[C:\\MSYS\\bin\\bzip2.exe],
  'cache_metadata' => q[1],
  'check_sigs' => q[0],
  'commandnumber_in_prompt' => q[1],
  'connect_to_internet_ok' => q[1],
  'cpan_home' => q[C:\\Programmer\\perl\\.cpan],
  'curl' => q[C:\\MSYS\\bin\\curl.exe],
  'ftp' => q[C:\\WINDOWS\\system32\\ftp.exe],
  'ftp_passive' => q[1],
  'ftp_proxy' => q[],
  'getcwd' => q[cwd],
  'gpg' => q[],
  'gzip' => q[C:\\MSYS\\bin\\gzip.exe],
  'halt_on_failure' => q[0],
  'histfile' => q[C:\\Programmer\\perl\\.cpan\\histfile],
  'histsize' => q[100],
  'http_proxy' => q[],
  'inactivity_timeout' => q[0],
  'index_expire' => q[1],
  'inhibit_startup_message' => q[0],
  'keep_source_where' => q[C:\\Programmer\\perl\\.cpan\\sources],
  'load_module_verbosity' => q[v],
  'lynx' => q[C:\\Programmer\\Lynx\\lynx.exe],
  'make' => q[C:\\Programmer\\dmake\\dmake.exe],
  'make_arg' => q[],
  'make_install_arg' => q[],
  'make_install_make_command' => q[C:\\Programmer\\dmake\\dmake.exe],
  'makepl_arg' => q[],
  'mbuild_arg' => q[],
  'mbuild_install_arg' => q[],
  'mbuildpl_arg' => q[],
  'ncftp' => q[],
  'ncftpget' => q[],
  'no_proxy' => q[],
  'pager' => q[C:\\MSYS\\bin\\less.exe],
  'patch' => q[C:\\MSYS\\bin\\patch.exe],
  'perl5lib_verbosity' => q[v],
  'prefer_installer' => q[MB],
  'prefs_dir' => q[C:\\Programmer\\perl\\.cpan\\prefs],
  'prerequisites_policy' => q[ask],
  'scan_cache' => q[atstart],
  'shell' => q[C:\\WINDOWS\\system32\\cmd.exe],
  'show_unparsable_versions' => q[0],
  'show_upload_date' => q[0],
  'show_zero_versions' => q[0],
  'tar' => q[C:\\MSYS\\bin\\tar.exe],
  'tar_verbosity' => q[v],
  'term_is_latin' => q[1],
  'term_ornaments' => q[1],
  'test_report' => q[0],
  'trust_test_report_history' => q[0],
  'unzip' => q[],
  'urllist' => [q[http://www.cpan.dk/]],
  'use_sqlite' => q[0],
  'wget' => q[],
  'yaml_load_code' => q[0],
  'yaml_module' => q[YAML],
};
1;
__END__

C:\>EXIT

NB: Some perl modules calling external C subroutines (xsubs) may
require other C header files than those accompanying this compiler.

After the above listed modules are installed test the installation,
the selected module chosen from the examples in the cpan.bat
file, and the dependencies' version numbers satisfied by those
modules accompanying the perl v5.10.1 installation:

C:\>cpan.bat BDFOY/Netscape-Bookmarks-1.95.tar.gz
CPAN: LWP::UserAgent loaded ok (v5.835)
CPAN: Time::HiRes loaded ok (v1.9719)
Fetching with LWP:
  http://www.cpan.dk/authors/01mailrc.txt.gz
CPAN: YAML loaded ok (v1.15)
Going to read 'C:\Programmer\perl\.cpan\sources\authors\01mailrc.txt.gz'
CPAN: Compress::Zlib loaded ok (v2.02)
............................................................................DONE

Fetching with LWP:
  http://www.cpan.dk/modules/02packages.details.txt.gz
Going to read 'C:\Programmer\perl\.cpan\sources\modules\02packages.details.txt.g
z'
  Database was generated on Sun, 25 Sep 2016 12:41:02 GMT
.............
  New CPAN.pm version (v2.14) available.
  [Currently running version is v1.9402]
  You might want to try
    install CPAN
    reload cpan
  to both upgrade CPAN.pm and run the new version without leaving
  the current session.


...............................................................DONE
Fetching with LWP:
  http://www.cpan.dk/modules/03modlist.data.gz
Going to read 'C:\Programmer\perl\.cpan\sources\modules\03modlist.data.gz'
DONE
Going to write C:\Programmer\perl\.cpan\Metadata
Running make for B/BD/BDFOY/Netscape-Bookmarks-1.95.tar.gz
Fetching with LWP:
  http://www.cpan.dk/authors/id/B/BD/BDFOY/Netscape-Bookmarks-1.95.tar.gz
CPAN: Digest::SHA loaded ok (v5.47)
Fetching with LWP:
  http://www.cpan.dk/authors/id/B/BD/BDFOY/CHECKSUMS
Checksum for C:\Programmer\perl\.cpan\sources\authors\id\B\BD\BDFOY\Netscape-Boo
kmarks-1.95.tar.gz ok
CPAN: Archive::Tar loaded ok (v1.52)
Netscape-Bookmarks-1.95/
Netscape-Bookmarks-1.95/bookmark_files/
Netscape-Bookmarks-1.95/bookmark_files/Bookmarks.html
Netscape-Bookmarks-1.95/bookmark_files/Bookmarks4.7.html
Netscape-Bookmarks-1.95/bookmark_files/Favorites.html
Netscape-Bookmarks-1.95/bookmark_files/iCab.Hotlist.html
Netscape-Bookmarks-1.95/Changes
Netscape-Bookmarks-1.95/examples/
Netscape-Bookmarks-1.95/examples/README
Netscape-Bookmarks-1.95/lib/
Netscape-Bookmarks-1.95/lib/Alias.pm
Netscape-Bookmarks-1.95/lib/Bookmarks.pm
Netscape-Bookmarks-1.95/lib/Category.pm
Netscape-Bookmarks-1.95/lib/Link.pm
Netscape-Bookmarks-1.95/lib/Separator.pm
Netscape-Bookmarks-1.95/LICENSE
Netscape-Bookmarks-1.95/Makefile.PL
Netscape-Bookmarks-1.95/MANIFEST
Netscape-Bookmarks-1.95/MANIFEST.SKIP
Netscape-Bookmarks-1.95/META.yml
Netscape-Bookmarks-1.95/README
Netscape-Bookmarks-1.95/t/
Netscape-Bookmarks-1.95/t/alias.t
Netscape-Bookmarks-1.95/t/bookmarks.t
Netscape-Bookmarks-1.95/t/category.t
Netscape-Bookmarks-1.95/t/link.t
Netscape-Bookmarks-1.95/t/load.t
Netscape-Bookmarks-1.95/t/pod.t
Netscape-Bookmarks-1.95/t/pod_coverage.t
Netscape-Bookmarks-1.95/t/prereq.t
Netscape-Bookmarks-1.95/t/separator.t
Netscape-Bookmarks-1.95/t/test_manifest
CPAN: File::Temp loaded ok (v0.22)

  CPAN.pm: Going to build B/BD/BDFOY/Netscape-Bookmarks-1.95.tar.gz

Checking if your kit is complete...
Looks good
Writing Makefile for Netscape::Bookmarks
cp lib/Link.pm blib\lib\Netscape/Bookmarks/Link.pm
cp lib/Alias.pm blib\lib\Netscape/Bookmarks/Alias.pm
cp lib/Separator.pm blib\lib\Netscape/Bookmarks/Separator.pm
cp lib/Bookmarks.pm blib\lib\Netscape/Bookmarks.pm
cp lib/Category.pm blib\lib\Netscape/Bookmarks/Category.pm
  BDFOY/Netscape-Bookmarks-1.95.tar.gz
  C:\Programmer\dmake\dmake.exe -- OK
Running make test
C:\Programmer\perl\bin\perl.exe "-MExtUtils::Command::MM" "-e" "test_harness(0,
'blib\lib', 'blib\arch')" t/*.t
t/alias.t ......... ok
t/bookmarks.t ..... ok
t/category.t ...... ok
t/link.t .......... ok
t/load.t .......... ok
t/pod.t ........... skipped: Test::Pod 1.00 required for testing POD
t/pod_coverage.t .. skipped: Test::Pod::Coverage required for testing POD
t/prereq.t ........ skipped: Test::Prereq required to test dependencies
t/separator.t ..... ok
All tests successful.
Files=9, Tests=18,  2 wallclock secs ( 0.23 usr +  0.12 sys =  0.36 CPU)
Result: PASS
  BDFOY/Netscape-Bookmarks-1.95.tar.gz
  C:\Programmer\dmake\dmake.exe test -- OK
Running make install
Prepending C:\Programmer\perl\.cpan\build\Netscape-Bookmarks-1.95-SKIG00/blib/ar
ch C:\Programmer\perl\.cpan\build\Netscape-Bookmarks-1.95-SKIG00/blib/lib to PER
L5LIB for 'install'
Installing C:\Programmer\perl\site\lib\Netscape\Bookmarks.pm
Installing C:\Programmer\perl\site\lib\Netscape\Bookmarks\Alias.pm
Installing C:\Programmer\perl\site\lib\Netscape\Bookmarks\Category.pm
Installing C:\Programmer\perl\site\lib\Netscape\Bookmarks\Link.pm
Installing C:\Programmer\perl\site\lib\Netscape\Bookmarks\Separator.pm
Appending installation info to C:\Programmer\perl\lib/perllocal.pod
  BDFOY/Netscape-Bookmarks-1.95.tar.gz
  C:\Programmer\dmake\dmake.exe install  -- OK

C:\>EXIT

Last updated: 2016-09-25

13 November 2015

bootstrapping ghc

System: Slackware Linux (version 14.0)
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz
Deps: gmp-5.0.5

Mikko Värri's build script took about 5 hours to run.

http://slackbuilds.org/repository/14.1/haskell/ghc/


ghc-7.8.4-i386-unknown-linux-deb7.tar.xz


bash-4.2# ./ghc.SlackBuild

...

bash-4.2# installpkg ghc-7.8.4-i486-1_SBo.tgz
Verifying package ghc-7.8.4-i486-1_SBo.tgz.
Installing package ghc-7.8.4-i486-1_SBo.tgz:
PACKAGE DESCRIPTION:
# ghc (The Glasgow Haskell Compiler)
#
# GHC is a state-of-the-art, open source, compiler and interactive
# environment for the functional language Haskell.
# This is a complete build, including interactive system, profiling
# libraries and documentation.
#
# Homepage: http://haskell.org/ghc/
#
Executing install script for ghc-7.8.4-i486-1_SBo.tgz.
Package ghc-7.8.4-i486-1_SBo.tgz installed.

bash-4.2# ghci
GHCi, version 7.8.4: http://www.haskell.org/ghc/  :? for help
Loading package ghc-prim ... linking ... done.
Loading package integer-gmp ... linking ... done.
Loading package base ... linking ... done.
Prelude> :quit
Leaving GHCi.

bash-4.2#

Installation of the test-framework and statistics packages.

http://www.slackbuilds.org/repository/14.1/haskell/
https://hackage.haskell.org/package/test-framework
https://hackage.haskell.org/package/statistics

I prefer the documenatation for packages to be centrally located,
so I modify the SlackBuild scripts where available as follows:

GHC_VERSION=$(ghc --numeric-version)

+ DOCDIR=/usr/doc/ghc-${GHC_VERSION}/extralibs

-  --docdir=/usr/doc/$PRGNAM-$VERSION
+  --docdir=${DOCDIR}/$SRCNAM-$VERSION

- mkdir -p $PKG/usr/doc/$PRGNAM-$VERSION
- cp -a LICENSE  $PKG/usr/doc/$PRGNAM-$VERSION
- cat $CWD/$PRGNAM.SlackBuild > \
- $PKG/usr/doc/$PRGNAM-$VERSION/$PRGNAM.SlackBuild

+ mkdir -p $PKG/$DOCDIR/$SRCNAM-$VERSION
+ cp -a LICENSE $PKG/$DOCDIR/$SRCNAM-$VERSION
+ cat $CWD/$PRGNAM.SlackBuild > \
+ $PKG/$DOCDIR/$SRCNAM-$VERSION/$PRGNAM.SlackBuild

SlackBuilds for abstract-par, erf, and ieee754, are located in the sidebar;
follow the template for writing a slack-desc file, or use the one accompany-
ing the SlackBuild. 

bash-4.2# installpkg haskell-HUnit-1.2.5.2-i486-2_SBo.tgz \
> haskell-abstract-par-0.3.3-i486-1_SBo.tgz \
> haskell-ansi-terminal-0.6.2.1-i486-1_SBo.tgz \
> haskell-cereal-0.4.1.1-i486-1_SBo.tgz \
> haskell-dlist-0.7.1-i486-1_SBo.tgz \
> haskell-erf-2.0.0.0-i486-1_SBo.tgz \
> haskell-extensible-exceptions-0.1.1.4-i486-1_SBo.tgz \
> haskell-hostname-1.0-i486-2_SBo.tgz \
> haskell-ieee754-0.7.6-i486-1_SBo.tgz \
> haskell-mtl-2.1.3.1-i486-1_SBo.tgz \
> haskell-primitive-0.5.4.0-i486-1_SBo.tgz \
> haskell-random-1.1-i486-1_SBo.tgz \
> haskell-syb-0.4.4-i486-1_SBo.tgz \
> haskell-text-1.2.0.3-i486-1_SBo.tgz

...

bash-4.2# 

SlackBuilds for atomic-primops and libxml are located in the sidebar.

bash-4.2# installpkg haskell-ansi-wl-pprint-0.6.7.1-i486-1_SBo.tgz \
> haskell-atomic-primops-0.8.0.2-i486-1_SBo.tgz \
> haskell-hashable-1.2.3.1-i486-1_SBo.tgz \
> haskell-libxml-0.1.1-i486-1_SBo.tgz \
> haskell-regex-base-0.93.2-i486-3_SBo.tgz \
> haskell-tf-random-0.4-i486-1_SBo.tgz \
> haskell-vector-0.10.12.2-i486-1_SBo.tgz \
> haskell-xml-1.3.13-i486-1_SBo.tgz

...

bash-4.2# 

and vector-th-unbox, are located in the sidebar.

bash-4.2# installpkg haskell-mwc-random-0.13.3.2-i486-1_SBo.tgz \
> haskell-QuickCheck-2.7.6-i486-1_SBo.tgz \
> haskell-regex-posix-0.95.2-i486-1_SBo.tgz \
> haskell-scientific-0.3.3.4-i486-1_SBo.tgz \
> haskell-unordered-containers-0.2.5.1-i486-1_SBo.tgz \
> haskell-vector-binary-instances-0.2.1.0-i486-1_SBo.tgz \
> haskell-vector-th-unbox-0.2.1.3-i486-1_SBo.tgz

...

bash-4.2# 

SlackBuilds for abstract-deque, math-functions, and
vector-algorithms, are located in the sidebar.

bash-4.2# installpkg haskell-abstract-deque-0.3-i486-1_SBo.tgz \
> haskell-math-functions-0.1.5.2-i486-1_SBo.tgz \
> haskell-parallel-3.2.0.6-i486-1_SBo.tgz \
> haskell-test-framework-0.8.1.0-i486-1_SBo.tgz \
> haskell-vector-algorithms-0.7.0.1-i486-1_SBo.tgz

...

bash-4.2# 

SlackBuilds for chaselev-deque and monad-par-extras are located in the sidebar.

bash-4.2# installpkg haskell-attoparsec-0.12.1.2-i486-1_SBo.tgz \
> haskell-chaselev-deque-0.5.0.5-i486-1_SBo.tgz \
> haskell-monad-par-extras-0.3.3-i486-1_SBo.tgz \
> haskell-test-framework-hunit-0.3.0.1-i486-1_SBo.tgz \
> haskell-test-framework-quickcheck2-0.3.0.3-i486-1_SBo.tgz

...

bash-4.2# 

SlackBuilds for abstract-deque-tests and monad-par are located in the sidebar.

bash-4.2# installpkg haskell-abstract-deque-tests-0.3-i486-1_SBo.tgz \
> haskell-aeson-0.8.0.2-i486-1_SBo.tgz \
> haskell-monad-par-0.3.4.7-i486-1_SBo.tgz

...

bash-4.2# 

A SlackBuild for statistics is located in the sidebar.

bash-4.2# installpkg haskell-statistics-0.13.2.3-i486-1_SBo.tgz

...

bash-4.2# 

PQ

System: Plan 9
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz

This entry will look at the pq client for an 'implicit relational' database server.

See the man pages.

25 October 2015

Kirara

This entry will look at the indexing software written with Plan 9's rc and dialect of ANSI C, and implemented using unicode encoding.

http://plan9.bell-labs.com/sources/contrib/arisawa/
kirara-2.2b.tgz

http://plan9.aichi-u.ac.jp/kirara/ (dead link)

Japanese webpage

Kirara

Full Text Database for Plan 9

目次

1.0.0 サーチエンジン
1.1.0 デスクトップ・サーチエンジン
1.2.0 フルテキスト・サーチエンジン
1.3.0 Mac Spotlight
1.4.0 僕が欲しいデスクトップ・サーチエンジン
1.5.0 検索ツールに要求されるユーザーズインターフェース
1.6.0 オープンソース
1.7.0 Plan9
2.0.0 インデックス
2.1.0 フルテキストデータベースとインデックス
2.2.0 一意的な語の個数とテキストの関係
2.3.0 複数のファイルをまとめてインデックス化する
2.4.0 ファイルの読み取り速度
2.5.0 転置インデックスか grep か?
3.0.0 Plan9 ユーザとサーチ・エンジンとのインターフェース
3.1.0 ユーザの特徴
3.2.0 rio
3.3.0 acme
3.4.0 plumb
3.5.0 パイプと grep
4.0.0 Plan9 の特徴とサーチ・エンジンの設計
4.1.0 文字コード
4.2.0 ファイルシステム
4.3.0 ファイルシステムのファイルの変更イベントのログ
4.4.0 qid
4.5.0 unix 流プログラミング
4.6.0 C が一番早い?
5.0.0 Kirara
5.1.0 Kirara1 と Kirara2
5.2.0 Kirara1
5.3.0 Kirara2
6.0.0 Kirara で使われた新しいツール
6.1.0 rdline
6.2.0 trans
6.3.0 ffm
6.4.0 mkdict and lkdict
7.0.0 文献

2013/10/26
2013/12/07

今年の夏休みはデスクトップ・サーチエンジンを書いていた。Kirara と言うのは、そのサーチエンジンの名前である。日本的な古めかしい名前であるが、僕はこの名前が好きである。

Kirara のソースコードは http://plan9.aichi-u.ac.jp/netlib/kirara/ (dead link) で手に入る。

サーチエンジン

2013/10/26

デスクトップ・サーチエンジン

普通の人は「サーチエンジン」と言えば Google など検索企業のサーチエンジンを思い浮かべるであろう。彼らは巨大な設備を使ってネットに転がっている世界中の情報を集めて、検索サービスを行う。僕がこ のまねごとなどできないのは明らかで対抗する気は毛頭にない。「デスクトップ・サーチエンジン」とは、個人が管理するコンピュータの中の情報を集めて検索 可能にするソフトウェアのことである*。ここは Google の検索エンジンが入り込めないという意味で聖域であり、情報の整理はこちらで行わなくてはならない。
インターネットのサーチエンジンとデスクトップ・サーチエンジンとの中間のものとしてイントラネットのサーチエンジンが存在するが、僕は今のところ興味は無い。

デスクトップ・サーチエンジンがサーチエンジンの特殊なジャンルであり、研究対象として独自の内容を持っている事が 2010 年**の ACM の SIG で確認されている(文献[1], 文献[2])。

例えば、
(1) インターネットの検索エンジンが、検索者にとって未知のファイルを探すのに対して、デスクトップ・サーチエンジンは、検索者にとって既知のファィルを探す。探索対象は彼がかって生成したり、修正したりしたファイルである。
(2) インターネットの検索エンジンが探索するファイルの種類は限られているのに対して、デスクトップ・サーチエンジンの場合には、電子メールやマルチメディアを含む多様なファイルが探索対象になる。

注*: 「デスクトップ・サーチエンジン」は(学術的な意味では)あまり適切な言い方ではない。文献[14] では "Personal Information Retrieval" と表現している。この方が本質を的確に表している。
注**: 文献[1]では2009年となっているが、間違いであろう。

フルテキスト・サーチエンジン

Kirara は Plan9 用に設計したフルテキスト・サーチエンジンである。unix には既にいろいろなサーチエンジンがあるので、いまさら新たに作らなくてもよいであろう。以前からサーチエンジンは Plan9 にも欲しいと思っていた*。 そこで作る事にしたのである。フルテキスト・サーチエンジンとして設計したのは、僕がなまくらであり、検索キーワードの入力のために時間を割いて、ファイ ルの整理などできるはずがないからである。フルテキスト・サーチエンジンは、僕が何もしなくても、ファイルの中に含まれる語を自動的に抽出して検索可能に してくれる。

注*: 僕が Kirara をアナウンスしたら、すぐに nemo さんからメールを頂いた。彼も Plan9 用のサーチエンジンを公表しているのだそうだ(文献[3])。でも彼のはプログラム中の tag のデータベースツールであり、フルテキスト型ではない。

Mac Spotlight

デスクトップ・サーチエンジンと言うものは滅多に使用しないものである。僕のゼミ生に聞いてみたが、Windows にもデスクトップ・サーチエンジンが存在する事を誰も知らない。知らなくても困らないような使い方しかしていないのである。Mac にも Spotlight と言う優秀なデスクトップ・サーチエンジンが存在する*。しかし僕は日常的に使う事はない。つまり無くてもよいようなものであるが、時に、「あのファイルはどこにあるのだろう」と悩む事があり、その時に役に立つ。つまり、デスクトップ・サーチエンジンと言うものは保険的なものに過ぎない。

誰でも保険に過度の支払いはしたくないであろう。Spotlight はバックグランドジョブとして絶えず情報を収集していて、その活動がウザイ。活動中には Mac の動きが悪くなるので、ネットには「Spotlight を止めたい」という悲鳴が結構聞こえてくる。でも最近の Spotlight は昔に比べて改良されて、ずいぶんと静かになったのだよ。

注*: 正確に言えば Mac のサーチエンジンは mds (Meta Data Server) であり、Spotlight はファインダーからの検索ツールである。

僕が欲しいデスクトップ・サーチエンジン

僕が理想とするデスクトップ・サーチエンジンとは、必要なときにだけ姿を現してくれる女神様のようなものである。普段は邪魔にならない。存在すら忘れてし まう。しかし、困った時の神頼みにはしっかりと答えてくれるサーチエンジンが欲しい。もちろん、これは理想論であるが、これにどこまで近づけられるかであ る。

Spotlight のようなデモン型注1は失格である。こういうのはウザイ。
 「デモン型だからこそ、必要な時に必要な情報が集まっているのでは?」の声もあろう。もちろん、デモン型でない場合には、必要になった時に情報を更新することとなる。問題はそれに要する時間である。どの程度の時間であれば我慢できるか? せいぜい数分だね...

注1: バックグランドジョブとして常に実行されているプログラムの事。サーバーとも言われる。Mac では mds(metadata server) が Spotlight へのサービスを行っている。

インデックスを作るためのディスクスペースが要求される。最近はハードディスクが安くなっているので、ここは気にする事はない。
しかしインデックスのためにあまりにも多くのディスクスペースが要求されると、最初のインデックスのために時間が取られすぎる。一晩かけても構わないと言う人もいるとは思うが....
一番の問題は、インデックスの更新に多くの時間が費やされることにある。この時間を小さくしたければ、大きなインデックスを持たない方が良い。

検索時間は1秒以内がイライラしないための要求水準らしい。もちろん膨大な量のファイルを表示する場合には時間がかかる。ここでは遅延時間(最初のレスポンスが表示されるのに要する時間)が問題になっている。(この点で Spotlight は素晴らしい)

検索ツールに要求されるユーザーズインターフェース

ユーザースインターフェースと言えば、ウィンドウとかボタンとかの GUI を連想するだろうが、あのように奇麗に飾ったものは決して使いやすいとは言えない。それによって非常に多くのものが犠牲になっているからである。機能性こ そが要求される。こではその視点から要求を分析してみる。

ユーザは指定した「語」(1個あるいは複数)を含むファイルを見付けるために検索ツールを使う。僕の経験では、該当するファイルが数百に昇る事は珍しくない。この中から目標のものを効率良く探し出せる仕組みを持った検索ツールが欲しい。

検索結果を絞るには普通は AND 検索が使用される。我々が、検索すべきファイルの内容に関する知識を持っていれば、この方法が使える。しかし、(持たない事が多いので)この方法が役に立 たない場合も多い。むしろファイルの置き場所(パス)が検索結果を絞るのに役に立つ。

ヒットするファイルが数十程度であれば、ヒットした行も表示されていれば、さらに絞りやすくなる。数個程度に絞り込めば、そのファイルをエディタに取り込み、検索で指定した語がどのような文脈で使われているかを吟味したくなる。

以上のような使い方に答えてくれる検索ツールが欲しいのである。

オープンソース

デスクトップ・サーチエンジンのソースはオープンであって欲しい。僕の技術的な興味と言うよりも、ユーザにとってのセキュリティの問題である。デスクトッ プ・サーチエンジンはファイルシステムを隈無く探すので、悪意のコードが含まれていても気付かれにくく被害が大きくなる。

OS も同様ではあるが、悪意のコードが含まれ、それが明らかになった場合には OS メーカー(巨大企業である)に致命的なダメージを与えることになる。しかし、デスクトップ・サーチエンジンは個人、もしくは(無名の)小さな「企業」によ り作られ公表されることが多い。歯止めが掛かりにくいのである。実際 Windows 用の検索エンジンである Copernic Desktop Search は僕の Vista を潰した(文献[4])。(あれはマルウェアであると言う噂がある)

Plan9

Kirara は Plan9 用に設計されたフルテキストのデスクトップ・サーチエンジンである。Plan9 とは unix を生み出した Bell 研究所が、unix をネットワーク時代にうまく適合するように unix を見直し、新たに開発した OS である。

ネットには Plan9 は成功しなかったと言う論者が居る注1。Plan9 はビジネス的には成功していないし、成功する見通しもない。Linux もデスクトップの分野では同様であり、FreeBSDも Apple によるアレンジによってようやく Windows への(小さな)対抗勢力となっている。

しかし他の面ではどうか? Plan9 が生み出した文字コード方式である UTF-8 は現在では Internet の標準文字コードとして不動の地位にある。また現在では Linux も Mac も採用しているユーザレベルのファイルシステムの考え方も Plan9 研究の産物である。Plan9 は OS 研究の成果として、現実世界に大きな影響を与えた点では成功したのである。

Plan9 がクライアントマシンの OS としてユーザーに受け入れられるためには、欠けているものが多すぎる。僕でさえ、クライアントマシンは Mac であり、そこで動いている OS は MacOS である。

他方では Plan9 はサーバとしては実用になっている。僕は、一番使いやすく、安心して使えるサーバーは Plan9 だと思っている。コンパクトで、ソースがオープンで、(他の OS のように)パッチワークではない。そのために動作が理解しやすく、必要に応じてユーザのレベルで手を入れやすい。そうしたことが使いやすく、安心して使え るための必要な条件なのである。

注1: こうした論者は、Plan9 でやれる事は(ライブラリなどによって)アプリケーション側でやれるとも言う。そのようなケースもあるだろうが、アプリケーション側でやれない事もある。 セキュリティに絡む問題が典型的な例である。そのために Pegasus のような Web サーバーは Plan9 でしか作れない。

インデックス

2013/10/29
2013/10/30
2013/11/15

フルテキストデータベースとインデックス

フルテキストデータベースは、テキストに現れた「語」と、その場所の情報を格納したインデックスを持つ。「場所」と言うのは、ファイルへのパスであった り、ファイルの中の位置情報であったりする。僕が個人的に使用しているシステムでも、検索対象のファイルの個数は10万にも及ぶ。従って少なくとも「語」 と、その「語」を含むファイルへのパスの関連情報を持たないと、遅くて実用にならない。「語」を基に「場所」を探せるように整理したインデックスを転置イ ンデックスと言うが、以下では単にインデックスと言えば転置インデックスのこととする。

一意的な語の個数とテキストの関係

テキストのサイズと、そこに含まれる一意的な語の個数との関係は古くからよく研究されていて、追加すべき新たな内容を僕は持たない。学術的な研究には標準 化されたテキストが使われており(例えば文献[13]に詳しい)、素人には分かりにくい。ここでは良く知られた小説を基に僕が計算した結果を紹介する。

著者 ファイルサイズ 総語数 一意的語数 一意的語数/総語数
Lincoln(G) 1531  272  145  53% 
Obama(N) 4956  878  358  41% 
Poe(B) 22209  4009  1246  31% 
Shakespeare(M) 100243  18100  3195  18% 
Shakespeare(H) 175221  32014  4533  14% 
Doyle(A) 611011  104529  2141  2% 
Dostoevsky(C) 1212802  220406  10620  5% 
Tolstoy(W) 3226683  566318  17599  3% 

Lincoln(G): Lincoln's Gettysburg Address
Obama(N): Obama's Nobel Prise speech
Poe(B): The Black Cat
Shakespeare(M): Macbeth
Shakespeare(H): Hamlet
Doyle(A): The Adventures of Sherlock Holmes
Dostoevsky(C): Crime and Punishment
Tolstoy(W): War and Peace

ここにおける一意的語数は、2文字以上の語に限定している注1。総語数は1文字以上の語であり、空白で区切られたものを単位としている注2。
一般論としては、総語数に対する一意的語数の割合は、総語数が増えると減少する。Doyle はこの割合が小さい。少年少女を相手にした小説なので、彼らの辞書にも無いような難しい語は使わないのであろう。
小説を、与えられた辞書に含まれる語のみを使って書くとすれば、小説のサイズがどれほど大きくなっても、そこに現れる一意的語の個数には上限が存在する。従って、(一意的語数/総語数) は、総語数が大きくなると 0 に収束する。

注1: Kiraraで採用された方法である。
注2: unix の wc で算出している。従って数字を含む。

複数のファイルをまとめてインデックス化する

大きなインデックスファイルは3重の意味で不利である。1つ目は、インデックスのためのディスクスペースが大きくなり、それ自体嫌われる。2つ目は、インデックスファイルの更新に時間がかかる。3つ目は、検索時のインデックスの読み取りに時間がかかる。

僕の場合もそうであるが、多数のメモ的な小さなファイルを持っている(表tab:stat>)。小さなファイルをそのままインデックス化すると、インデックスファイルのサイズは大きくなりがちである。そこで、複数のファイルをまとめてインデックス化するアイデアが出てくる。その場合、実際のファイルを探すのに grep の助けを借りる。

size ファイル数(usr) ファイル数(sys)
~ 1KB  29725  10254 
~ 10KB  40128  15263 
~ 100KB  15331  5710 
~ 1000KB  1509  313 
~ 10000KB  220  12 
~ 100000KB  17 

表tab:stat>: 筆者のインデックス対象のファイルの分布
usr は、僕のホームディレクトリのインデックス対象
sys は、公式配布ファイルの中のインデックス対象
ファイル数は実際にインデックスされているテキストファイルのみ

まとめる自然な単位はディレクトリであろう。作業はディレクトリを単位として行われており、1日の内で1つのディレクトリしか使わない事も多い。またディ レクトリの中のファイル検索は grep と極めて相性が良い。Kirara の最初のバージョン(現在の Kirara1)はこのアイデアを基に作られた。

Kirara を完成させてから、ネットを調べてみると、Glimpse(文献[6]) も良く似たアイデアで作られている事が分かった注1。

注1: 複数のファイルをまとめ、grep を援用している。ただしディレクトリを単位としていない。3MB程度のサイズまで適当にファイルをまとめているようだ。Glimpse は上手にインデックスファイルを小さくしているようだが、インデックスファイルの更新は遅い。

ファイルの読み取り速度

ある本によると 7200rpm のハードディスクの計算上の読み取り速度の上限は 33MB/s 程度だと言う。この数字はキャシュされていない事を前提に計算されている。実際には様々な要因に支配される。ディスクアクセスを伴うプログラムの処理能力 を調べるのは非常に難しい。ディスクからファイルを読み取ると、データがキャッシュされ、そのキャシュが追い出されない限り、ディスクからの読み取り速度 ではなく、メモリーからの読み取り速度を基に計測していることになり、「処理能力」は数10倍も跳ね上がる。

ファイルが非常に大きい場合には、小さな主記憶のコンピュータの場合には十分にキャッシュされない。従ってキャッシュを利用して速度を稼ごうとする場合に は不利である。インデックスファイルは結構大きくなるので、筆者の環境ではインデックスファイルのサイズは検索速度にかなり大きな影響を与える。

次に示すのは 212MB のファイル(main)を 3 回読み取り、その時間を調べている。

term% ls -l
...
--rw-rw-r-- M 149 arisawa arisawa 212272271 Oct 20 15:31 main
...
term% time wc main
7217248 14434496 212272271 main
1.15u 0.22s 48.63r       wc main
term% time wc main
7217248 14434496 212272271 main
0.66u 0.18s 1.22r        wc main
term% time wc main
7217248 14434496 212272271 main
0.75u 0.18s 1.22r        wc main
term%

2回目からの読み取り速度が40倍に跳ね上がっているが、これはキャッシュの効果である。しかし、同じコンピュータの下でのもっと大きなファイル(これも main ではあるが異なるディレクトリにある)では次に見るように、キャッシュの効果は小さい。

term% ls -l
...
--rw-rw-r-- M 149 arisawa adm 464183117 Oct 26 22:03 main
...
term% time wc main
17106350 34212700 464183117 main
2.05u 0.37s 100.08r      wc main
term% time wc main
17106350 34212700 464183117 main
1.74u 0.35s 11.46r       wc main
term% time wc main
17106350 34212700 464183117 main
1.44u 0.28s 11.43r       wc main
term%

転置インデックスか grep か?

フルテキストデータベースの話では、実装の方法として必ず採り上げられるのが、転置インデックスである。あるファイル F があったとする。ある「語」W を含む F の行を全て表示する問題は、転置インデックスを使って解決できる典型的な問題である。しかし、他方では grep を使っても簡単に解決できる。小さなファイルであれば grep の方が速い。しかし大きなファイルでは転置インデックスを参照した方が速い。転置インデックスを使う場合には3個のファイルが参照されるために小さなファ イルでは効率が悪すぎる。他方では grep は、ファイルを初めから終りまで全て読み取るので、大きなファイルでは不利になるのである(図1)。僕の経験では 3MB 程度の所にクロスポイントがあるのではないかと思うが、厳格な実験に基づいてこの数字が主張されているわけではない。

図1: grep検索と転置インデックス検索との速度比較 (概念図)
 
デスクトップ・サーチエンジンと言うのは、扱う対象によって実装方法を柔軟に考える必要があるのだろう。教科書的な方法が巧く働くのは、大きなファイルに対してだけであり、僕のシステムのように、大部分が小さなファイルの場合には(表tab:stat>を見よ)、殆どのファイルについては grep の方が効率が良い。しかし大きなファイルも存在するので、検索時にファイルのサイズに応じて方法を切り替えた方が良い。

Plan9 ユーザとサーチ・エンジンとのインターフェース

2013/10/29

ユーザの特徴

応用プログラムの設計はユーザーニーズに合わせるべきである。
Plan9 のユーザは極めて特殊で、彼らの主たる関心はプログラミングである。またその方面に関しては十分な知識を持ち、訓練されている。シェルの使い方を知らないユーザは存在しないし、grep の使い方を知らないユーザも存在しないと考えて良い。見栄えには関心が無く、機能性が重視される。彼らはコマンド派である。またテキストファイルを好む。

筆者の場合、検索の主な対象はプログラムである。Plan9 のマニュアルは丁寧に書かれてはいるが、機能を論理的に説明されただけでは、なかなか理解できない事がある。プログラムのサンプルが欲しいのである。幸い Plan9 はオープンなシステムなので、ソースコードが添えられている。こうしたソースコードがプログラミングの効率を上げ、陥りがちな誤りを防いでくれる。生きた コードの中からライブラリ関数の使用例に容易にアクセスできる全文検索型のテキストデータベースは役に立つはずである。

rio

rio とは Plan9 のウィンドウズシステムである。グラフィックスの扱いが良いとは言えないが、テキストの扱いは極めて良い(良くできている)。
rio の中に生成されるターミナルウィンドウは、それ自体テキストエディタのように、表示されているテキストを編集できる。それがコマンドであれば、その範囲をマウスで指定して実行できる。unix 系では Mac のターミナルが横幅を自由に変更でき扱いやすいが*、表示された結果が編集できないのが辛い。rio は、それを編集できるようにしたものだと思えばよい。

注*: Linux も横幅を変更できるが、表示は 80 文字に合わせられている。

acme

Plan9 の基本エディタ(テキストエディタ)は acme である。他に sam エディタもあるが、通常は操作がシンプルな(初等的な) acme が使われているようである。unix にある他のテキストエディタと比べると、飾りのようなものは無く、機能性重視であり、マルチファイルエディタである。また acme の中で Plan9 の任意のコマンドも実行できる。acme は unix の emacs に対するアンチテーゼであり、emacs 以上の機能を持たせながら、emacs のようには難しくはない。

plumb

ターミナルで語を指定して検索コマンドを打った時、結果がターミナル上に表示される。Kirara ではファイルへのパスと、その語を含む行の内容と、その行番号とが表示されるようになっている*。 通常は多数のファイルが表示されるであろう。行も表示されるので、目的のファイルの見当が付きやすいが、目的の語がどのような文脈で使用されているか知り たい時には、Plan9 には plump と呼ばれる仕組みがあり、新たにコマンドを打たなくてもマウスだけで、そのファイルを acme に表示させ、しかも問題の行を選択状態にしてくれる。

注*: Mac の mdfind(Spoltlight) はファイルへのパスしか表示してくれない。なお Spotlight と言えば普通は Finder からの検索を意味するが、ああいうのははっきり言って実用にならない。該当するファイルの量が多すぎるのである。Apple は、これを絞り込む適切な方法を提供すべきであろう。

パイプと grep

結果の表示を絞るのに、パイプと grep が使える。パイプと grep は Plan9 のユーザは誰でも使い方を知っていると仮定してよい。サーチエンジンの検索インターフェースに、結果を絞るための特別なオプションを付けるよりも、パイプ と grep に任せる方がユーザは理解しやすいだろうし、柔軟な利用が可能になる。

Plan9 の特徴とサーチ・エンジンの設計

2013/10/27
2013/11/12

Plan9 で動く Desktop Search Engine を設計するとすれば、Plan9 のどのような特徴が活用できるだろうか?

文字コード

Plan9 は UTF-8 発祥の地である。もちろん任意の文字コードのファイルを置けるが、全てのツールは UTF-8 を前提に作られている。従ってフルテキスト・サーチエンジンも UTF-8 を前提に設計してもよいだろう。

多様な文字コードが混在する環境下でのソフトウェア開発は地獄である。幸いな事に Plan9 では、この問題から解放されている。

ファイルシステム

Plan9 ではファイルシステムはカーネルと分離している。そのためにファイルシステムのソースコードは見通しが良く、また動作を追いかけやすい。現在はサーバー用 には主に fossil と cwfs が使われている。fossil は Russ Cox が実装し、cwfs は Geoff Collyer が Ken Thompson のコード注1を Plan9 カーネルの下で使えるようにしたしたものである。
マニュアルによれば、Plan9 のファイルシステムのディレクトリの mtime (修正時刻) は、そこに含まれているファイルの mtime が変更を受けた時に、同時に変更を受ける。fossil はこの点でマニュアル通りの動作をするが、cwfs は unix と同じ動作をしている。つまり変更を受けない。これは cwfs のバグであり、克服されるべき部分である。

注1: cwfs の下になったコードは Ken Thompson が書いたファイルサーバ専用機のコードである。この方法の欠点は、コンピュータが1個余計に必要な事と、ソースコードのメンテナンスが困難な事にある。

ファイルシステムのファイルの変更イベントのログ

デスクトップ・サーチエンジンにとって、新たに作られたファイル、削除されたファイル、さらに更新されたファイルを知る事はインデックスの更新にとって不可欠である。いかにすばやくこの情報を手に入れるかが、更新時間を決める2大要素の一つである。
OSはこの情報を提供しないので、通常のデスクトップ・サーチエンジンは非常に非効率的な方法で、ファイルの変更情報を手に入れる。そのためにファイルシ ステムをくまなく探す。この間、CPU はこの仕事に追われ、また大量のディスクアクセスが発生する。ユーザのイライラの主な発生源である。

ファイルシステムのファイルの変更イベントをうまく手に入れるメカニズムが存在すれば、インデックスの更新時間を大幅に節約できる。

Plan9 以外の OS では、これを実現するためにはカーネルの修正が要求される。例えば Linux 用に書かれたサーチエンジンである Wumpus(文献[10]) では、そのためのカーネルパッチが提供されている(文献[11])。しかし、カーネルパッチが要求されるようなツールは使われないであろう。カーネルパッ チは敷居が高すぎるのと、頻繁に行われるカーネルのアップデートにユーザも開発者も付いて行けないのである。

Plan9 はこの点で非常に柔軟で、ファイルの変更イベントを手に入れる仕組みをユーザレベルで簡単に追加できる。カーネルの修正は不要で、ファイルシステムへの修 正すら必要はない。ファイルの変更イベントを手に入れるには単に1つのプログラムを追加すればよい。これを使うと、インデックスの更新に必要な情報は数秒 で(場合によっては瞬間的に)手に入る。

Apple の MacOS は mds (Meta Data Server) にファイルの変更情報を送っていると思われる。そうでなければ、あれほど素早く、ファイルの変更を mds に反映させる事はできない。

qid

qid と言うのは、ディレクトリやファイルを識別するための ID であり、unix の inode のようなものである。ただし inode と異なり、ディレクトリやファイルごとに、ユーザ ID などの情報と一緒になっている。詳しくは筆者の記事「 cwfs の研究 」の中に解説されている。
Plan9 の qid は 8B の情報であり、これを使ってデータベースの「語」とファイルの関係を表せば、パスを使うよりも簡潔になる。その場合には、もちろん、qid とパスとの対応表が必要になる。

unix 流プログラミング

Plan9 のシェル rc は非常によくできていて、Plan9 の全てのファイルを扱える。サーチエンジンはシステムに許される全てのファイルを扱えなくてはならない。その中には、ファイル名に二重引用符(")やシングルの引用符(')、それから * や ? など、通常は使わないような文字を含むものがあり得る。こちらが、そのようなファイルを作らないように気をつけていても、よそから持って来たファイルには様々な文字がファイル名に含まれている。

unix ではどうだろう? ファイル名にシングルの引用符が含まれている可能性があれば、sh や bash はもうお手上げである。つまり、ファイルを一般的に扱う場合には、ちゃんとしたプログラミング言語を使わないと、バグる。

unix と言うのは、大きなプログラムを作って問題を解決するのではなく、既存の小さなプログラム(ツール)を組み合わせて、問題を解決できるようにした OS である。シェルがプログラムとプログラムを繋ぎ合わせる役割を果たしている。もちろん、既存のツールだけではやっていけない事もあろう。その場合には不足 している部分だけを補ってやる。これが unix 流のプログラミングである。しかし、実際にはシェルに問題があって、うまく行かない場合がある。

結局、unix においても、大きなプログラムが横行するようになった。現在においては、unix 流プログラミングの理念は Plan9 の中でしか実現できない。

C が一番早い?

現在では全てのプログラムの源流は C だから、C で書くのが一番速いと考えがちである。しかし僕が Kirara を書いた経験から言えば、微妙である。なぜか?

Plan9 の基本ツール(grep,awk,...)は恐ろしく速い注*。正規表現ライブラリを使って僕が書く grep もどきは、とてもあれだけのスピードは出ない。基本ツールはプログラムの達人が、磨きをかけて完成している、いわば芸術品である。コードを見ると、スピードを上げるために普通ではない書き方がされている。

Plan9 の正規表現はシンプルで、他のスクリプト言語に見られる正規表現のようには、多彩なオプションを備えていない。多彩なオプションの陰で支払われた代償に関しては Russ Cox のネットの記事が参考になる(文献[5])。

我々が全てを C で新たに書こうとすると、達人達が行った以上の高度な技を駆使しなくてはならないだろう。そうしなければ効果が上がらない場合がある。そして大抵はそれはできない。

そうであるから、使えるものは使う、この方が速度においても良い結果が得られる。

Kirara

2013/10/29
2013/11/04

Kirara1 と Kirara2

現在のところ Kirara には性格の異なる2つのバージョンがある。

Kirara1(ver.1.x) および Kirara2(ver.2.x) である。
Kirara1 はディレクトリを単位にインデックスしている。世の中にいろいろなサーチエンジンがあるが、このような方法を採用しているのは、Kirara1 だけではないかと思う。Kirara2 はオーソドックスにファイルを単位にインデックスしている。どちらが良いかとは簡単には言えない。それぞれに一長一短があり、ユーザの選択に任せた方が良 いと判断している。

* Kirara1 Kirara2
初期インデックス時間 速い 遅い
インデックス更新時間 速い 遅い
インデックススペース 小さい 大きい
検索時間 遅い 速い

Kirara1 の検索時間は「遅い」としたが、通常の検索においては両者の違いは殆どない。ここで言う「通常」とは、「語」(1つあるいは複数)を指定して、それらを含 むファイルを見付ける検索である。これは Mac の Spotlight が行える検索のレベルでもある。

違いが顕著に現れるのは、指定した複数の語を1つの行に含むファイルを検索する場合である。Mac の Spotlight はこれをサポートしていない。他のデスクトップ・サーチエンジンも同様だと思われる。

検索では通常、膨大な数のファイルがヒットする。我々の目標は、その中から目的に合致するものを選び、場合によっては、検索対象の語がテキストの中でどの ように使用されているかを調べる事である。この点で、Kirara1 も Kirara2 も共に設計には以下の点が配慮されている。
(1) 第1ステップでは、Kirara1 ではヒットしたディレクトリへのパス、Kirara2 ではヒットしたファイルへのパスが表示される。必要とあれば出力を grep に渡して、パス情報を基に表示をマスクできる。この点は unix 系の検索エンジンでであれば、どれも同じである。そして、多くの検索エンジンはここで止まっている。
(2) 第2ステップでは、第1ステップで得られた結果を基に、該当ファイルのパスと、ヒットした行の内容と行番号が表示される*。

注*: Mac の mdfind には残念ながら、この機能は無い。欲しいなら、ユーザの手で、これを行うツールを作る事はできるであろう。
(3) 検索語が、ヒットしたファイルの中でどのように使用されているかを調べたい事がある。第2ステップの表示は Plan9 の plumb のメカニズムとの連携が考慮されているので、plumb を使って、素早く該当ファイルをエディタにロードし、該当行に辿り着ける**。

注**: Mac では難しいであろう。


Kirara1

Kirara1 の最新バージョンは ver.1.3 である。ver.1.2 から大きな変更を受けているが、基本的なアルゴリズムには変更はない。変更の理由は Kirara2 とプログラムパーツを共有することにあった。(2つのバージョンの同時サポートは大変である。)

さて Kirara1 は指定された語を含むディレクトリを探す。例えば

kfind1 'snoop&htm|html'

とすると、「snoop」を含み、かつ、「htm」または「html」を含むディレクトリが表示される。また

kfind1 'snoop&htm*'

とすると、「snoop」を含み、かつ、「htm」で始まる語を含むディレクトリが表示される。
検索で使える演算子は、' '(空白) と '&' と '|' と '*' だけである。空白 ' ' は、ファイルの同じ行に含む事を探す場合に指示する注1。含まないを指示する記号はニーズが低いと思えるのでサポートされていない。(そのような必要があれば、grep を使えばよい)

注1: 実装上の理由から、これらの任意の組み合わせが許されている訳ではない。空白と '&' は同時には使えない。(検索の目標からして当然)
また '|' と '*' は grep の正規表現が使われている。そのためにこれらは、空白や '&' に比べて、論理演算子としての結合強度は高い。

さて、ディレクトリの中から、指定された語を含むファイルを探し、その行を表示するコマンドは G1 である。

kfind1 'snoop&htm|html'

の出力は

G1 'snoop|htm|html' /lib/
G1 'snoop|htm|html' /sys/lib/linux/var/lib/apt/lists/
G1 'snoop|htm|html' /sys/src/cmd/mothra/
...

である。この最初の行を実行すると、/lib/ の中のファイルから、snoop または htm または html を含む行を見付け、そのファイルのパスとともに表示される。

なお、指定された条件の語が含まれるディレクトリが存在したとしても、指定された条件のファイルが存在するとは限らない。つまり G1 による検索が空振りになる可能性がある。このことが Kirara1 が Kirara2 よりも検索時間が遅くなる理由である。

Kirara2

Kirara2 の最新バージョンは ver.2.0 である。
Kirara2 は Kirara1 と異なり、指定された語を含むファイルを探す。使える演算子は Kirara1 と同じである。例えば

kfind2 'snoop&htm|html'

とすると、

G2 'snoop|htm|html' /sys/src/cmd/mothra/mkfile
G2 'snoop|htm|html' /usr/arisawa/doc/rfc/1rfc_index.txt
G2 'snoop|htm|html' /usr/arisawa/netlib/9fans/9fans.0006
...

のようなものが表示される。G2 は Kirara2 用のコマンドであり、その役割は G1 と同じであるが、引数が既にファイルになっている所が異なる。これらを実行すると、

maia% G2 'snoop|htm|html' /sys/src/cmd/mothra/mkfile
/sys/src/cmd/mothra/mkfile:6:   snoop.c \
/sys/src/cmd/mothra/mkfile:9:   html.syntax.c \
/sys/src/cmd/mothra/mkfile:11:  rdhtml.c \
/sys/src/cmd/mothra/mkfile:15: HFILES=mothra.h html.h libpanel/panel.h libpanel/rtext.h
maia%

のように検索条件にマッチする行が、パス名、行番とともに表示される。この形式で出力しておけば、plumb の仕組みを使って、マウスだけで簡単にエディタの中にファイルをロードし、問題の行が選択状態になる。このへんの事情は Kirara1 の G1 でも同じである。なお 「maia%」はプロンプトである。

snoop と、htm または html を同じ行に含むファイルを探すには

kfind2 'snoop htm|html' |rc

を実行すればよい。

kfind2 'snoop htm|html'

だと(通常は)非常に多くの行が表示され、そのうち、実際に同じ行に含まれるのは極く僅かである。従って、1つ1つを個別に実行して確認するよりも、シェルである rc に渡して全てを一挙に実行させる方が効率が良い。このへんの事情は Kirara1 の G1 も同じである。

Kirara は通常のデスクトップエンジンと異なり、そのアウトプットを(パイプを通じて)他のプログラムに渡せるように配慮されている。決して、Kirara だけで全てを行うようには考えられていない。

Kirara で使われた新しいツール

2013/11/05
2013/11/06
2013/11/07

Kirara は Plan9 のシェルスクリプト rc をベースにして、速度が要求される部分、あるいは rc が適さない部分(文字単位の処理が要求される部分)は C で開発されている。この方が見通しが良く、また柔軟に仕様を変更できる。Plan9 の grep や awk などの基本ツールは素晴らしく速く、それらを使いたいと言うのも、rc をベースにした理由でもある。

以下では Kirara で使われた(あるいは Kirara のために開発された)筆者のツールをいくつか紹介する。これらは汎用のツールなので、他のアプリケーションへの応用が利く。

rdline

ファイルから1行を読み取るのに、unix では関数 fgets() が使われる。この関数は読み取った行を格納するバッファを与え、そこにストリームから読み取ったデータ(これも 関数 fopen() によってバッファリングされている注1)をコピーする。

注1: fopen() が使う標準バッファサイズは驚く程小さい。このサイズは /usr/include/stdio.h の中の BUFSIZ を見れば分かるが、Linux の場合には 8KB、Mac の場合には、たった1KBである。従って高速化を図る場合には 関数 setvbuf() を使ってバッファサイズを大きくとる必要がある。詳しくは黒田久泰氏の解説(文献[8])を見よ。

関数 fgets() は2つの点で問題がある。1つは、ストリームバッファから読み取るためのバッファを指定する必要があり、この必要サイズが前もって分からない事が多い事。2つ目は、バッファからバッファへの無駄なコピーが発生しており、そのために遅くなる事である。

第1の点に関しては、関数 getline() によって柔軟な対応ができるが、やはり無駄なコピーが発生している点では違いは無い。

Plan9 では、bio ライブラリの関数 Brdline() や Brdstr() が直接バッファを参照する事によって無駄なデータのコピーを防ぎ、高速化を図っている。関数 Bopen() が大きなバッファを確保するので、Brdline() が扱える1行の最大サイズは Bopen() の大きなバッファサイズに一致する。まあ、余程変なテキストファイルでない限り、このサイズを超える事はないでしょう。

さて、残念な事に、Brdline() はファイルの末尾が改行で終わらないファイルの読み取りに問題を抱えている。unix の由緒正しいテキストファイルは改行で終わる。Plan9に携わる全ての人々は、正しいテキストファイルしか扱ってこなかったのだと思う。しかし、コン ピュータユーザの層が広がったために、近頃ではファイルの末尾が改行で終わらないテキストファイルが当たり前のように転がっている。もしも Brdline() がそのようなファイルを読むとどうなるか? 最後の行が読み取れないのである!

テキストファイルの読み取りは、殆どの場合、行単位なので、Brdline() がそのような問題を抱えていれば、非常に困る。Brdstr() は Brdline() の代わりに使う事が可能であるが、以下に見るように遅い。(Brdline() の2倍以上時間がかかる)

Kirara では、行読み取り専用の関数 rdline() を開発し、それが使われている。この関数はファイルの末尾が改行で終わっていなくても、全ての行を正しく読み取る。もっともファイルの末尾が改行で終わっていない事を判定する方法を提供していないので、rdline() を使ってテキストファイルをコピーすると、ファイルの末尾が改行で終わっていないファイルの場合、生成されたファイルは由緒正しいテキストファイルになり、末尾に改行が追加される。

以下は実験である。読み取る対象は212MBのテキストファイルである。

--rw-rw-r-- M 149 arisawa arisawa 212272271 Oct 20 15:31 /n/other/kirara1/usrdb/main

(十分にキャッシュされた後の)実行時間は次の通りである。

term% time 8.rdline_demo -f Brdstr /n/other/kirara1/usrdb/main
1.25u 0.35s 2.03r        8.rdline_demo -f Brdstr /n/other/kirara1/usrdb/main
term% time 8.rdline_demo -f rdline /n/other/kirara1/usrdb/main
0.46u 0.12s 0.86r        8.rdline_demo -f rdline /n/other/kirara1/usrdb/main
term% time 8.rdline_demo -f Brdline /n/other/kirara1/usrdb/main
0.27u 0.21s 0.80r        8.rdline_demo -f Brdline /n/other/kirara1/usrdb/main

ここに -f のオプションは、使用する関数を指定している。計測に使用したソースコードを以下に示すが、rdline() の使い方もこれから分かる。

#include <libc.h>
#include <bio.h>
#include "misc.h"

char *func;
Biobuf bout;

void
usage(void)
{
        fprint(2,"usage: rdline_demo -f func file\n");
        exits("usage");
}

void
doit_rdline(int fd)
{
        char *p;
        Rdbuf *rb;
        rb = RdbufNew(fd, 32*1024);
        while((p = rdline(rb))){/* assign = */
                ;
        }
}

void
doit_Brdline(int fd)
{
        char *p;
        Biobufhdr bin;
        uchar biobuf[32*1024];
        if(Binits(&bin, fd, OREAD, biobuf, sizeof(biobuf)) < 0)
                sysfatal("input not open: %r");
        while((p = Brdline(&bin, '\n'))){ /* assign = */
                ;
        }
}

void
doit_Brdstr(int fd)
{
        char *p;
        Biobufhdr bin;
        uchar biobuf[32*1024];
        if(Binits(&bin, fd, OREAD, biobuf, sizeof(biobuf)) < 0)
                sysfatal("input not open: %r");
        while((p = Brdstr(&bin,'\n',1))){ /* assign = */
                ;
        }
}

void
main(int argc, char *argv[])
{
        int fd;

        ARGBEGIN{
        case 'f': func = EARGF(usage());
                break;
        default: usage();
        }ARGEND

        if(*argv == nil)
                usage();

        if(!func)
                usage();

        Binit(&bout, 1, OWRITE);

        fd = open(*argv,OREAD);
        if(fd < 0)
                sysfatal("%s not open: %r",*argv);

        if(strcmp(func,"rdline") == 0)
                doit_rdline(fd);
        else
        if(strcmp(func,"Brdline") == 0)
                doit_Brdline(fd);
        else
        if(strcmp(func,"Brdstr") == 0)
                doit_Brdstr(fd);
        else
                usage();

        close(fd);
        Bterm(&bout);
        exits(nil);
}

このプログラムの中の関数 doit_XXXX(int fd) の中の、変数 p が、行への参照ポインタである。通常は、この p を使って何かが行われる。

trans

unix のツールの中に tr コマンドがある。tr はファイルの中の文字を変換する。あるいは与えられた文字を削除する。trans ツールは(文字ではなく)文字列の変換テーブルを与えて、テキストファイルを変換する。簡単な例を挙げると、テーブルが

alice   bob
bob     alice

であれば、ファイル中の alice と bob を入れ替える。もしもテーブルが

alice   bob
bob     carol
carol   alice

であれば、ファイルの左の文字列を右の文字列に入れ替え、その結果巡回置換が行われる。
実際の応用としては大きなテーブル*が想定されているので、効率の良いアルゴリズムが要求される。

注*: 僕のシステムの Kirara2 では10万行に及んでいる。
このようなツールは unix の中に存在しても良さそうに思えるが、存在しない。そこで作る事にした。(もっとも Kirara のためではなく、その前に作った Mac 用の u9fs のためであった。)

まずテキストファイルをスキャンしたときに、テーブルの第1列目の文字列を効率良く見付ける必要がある。unix にはそのためのツールとして fgrep (現在では grep の1つのオプションとなっている) があるが、僕は fgrep のコードは見ていない。多分、僕が考えたものよりも効率が良いと思う。(僕のはもう少し改善の余地があるから)

trans は fgrep のように、単に見付けるのではなく、テーブルの第2列目の文字列に変換する点で fgrep よりも複雑である。そして別の応用があり得る。

Kirara の中ではアルゴリズムが異なる2つの trans コマンドが使われている。KR_trans と eKR_trans である。KR_trans では文字列を見付けるのに Karp-Rabin アルゴリズムが使われている。このアルゴリズムはもともと1個の文字列の検索法として提唱されたが、Karp-Rabin アルゴリズムの素晴らしい点は、マルチパターン検索に使える可能性がある事である。Trie 法を使った場合もマルチパターン検索が可能であるが、メモリーを食いすぎる。

Karp-Rabin アルゴリズムをそのままパターン検索に使った場合には制約が強く、検索文字列の長さが全て同じ場合にだけに利用できる。この方法は Kirara の中では、qid をパスに変換するのに使われている。eKR_trans は Karp-Rabin アルゴリズムを、固定長文字列ではない場合にも使えるように僕が拡張したもので、これはイベントログを分析するのに使われている。先に僕が改善の余地があると述べたのは eKR_trans の方である。

文献[9]には、マルチパターン検索の最近の研究の成果が簡単に説明されている。

ffm

grep は便利なツールであるが、フィールドの概念を持たないために、フィールドを指定して文字列のマッチングを調べる問題には適さない。ffm はフィールドを指定し、その文字列が、ファイルの中に一覧として与えられた文字列のどれかに一致した行を表示する。例えば patter_file に

alice
bob

と書かれていると、

ffm -f3 pattern_file target_file

で、target_file の中の第3フィールドに alice または bob があれば、その行を表示する。

この例では完全一致であるが、ffm にオプション -m を与えれば、第3フィールドの先頭からの部分文字列が alice または bob と一致する行を表示する。もちろん最長マッチングである。
さらに、(awk と組み合わせて)一致した行を加工するのに適したオプションも存在する。

ffm は正規表現をサポートしていない。pattern_file には膨大な(例えば数万の)検索文字列が存在する事が想定されており、そのようなケースでは、正規表現はあまり役に立たないんだよね。本当に必要なった場合にはサポートするけど...

Kirara のスクリプトを見れば分かるけど、ffm は非常にたくさん使われている。結構便利なツールなのである。

mkdict and lkdict

mkdict と lkdict は英辞郎を Plan9 でも使えるようにするために開発されたが、Kirara2 では大きなファイルをインデックスし検索するのに使われている。英辞郎は 200MB もあり、これを grep で検索すると(キャッシュされていない場合には)ひどく時間がかかり使い物にならない。mkdict はインデックスファイルを作り、lkdict は語を与えて検索する。いずれも1つのファイルを対象としている。lkdict では複数の語を与えてもよく、その場合には、与えられた全ての語を含む行を出力する。正規表現に基づく or 検索も可能である。
mkdict が生成するファイルは、比較的オーソドックスな内容になっており*、いわゆる辞書(ファイルの中の一意語の一覧ファイル)とリスト(語の位置情報を一意語ごとに整理し圧縮したファイル)から構成される。
また大きな辞書に対しては、辞書の目次を作成しておくと、効率良く語にアクセスできるので、そのための機能も持たせてある。

注*: 文献[12]にそうした技法が解説されている。可変バイトに関しては少し変形されている。

文献

[1] David Elsweiler, Gareth Jones, Liadh Kelly and Jaime Teevan (2010)
Workshop on Desktop Search
http://www.sigir.org/forum/2010D/sigirwksp/2010d_sigirforum_elsweiler.pdf (dead link)

[2] David Elsweiler, Gareth Jones, Liadh Kelly and Jaime Teevan (2010)
SIGIR 2010 DESKTOP SEARCH
Workshop of the 33rd Annual International ACM SIGIR Conference
http://www.cdvp.dcu.ie/DS2010/DesktopSearchProceedings.pdf (dead link)

[3] Francisco J Ballesteros (2007)
File indexing and searching for Plan 9
4th International Workshop on Plan9
http://4e.iwp9.org/papers/tags.pdf

[4] Kenji Arisawa (2013)
Virus にやられたらしい
http://ar.aichi-u.ac.jp/blog/virus.html (dead link)

[5] Russ Cox (2007)
Regular Expression Matching Can Be Simple And Fast
http://swtch.com/~rsc/regexp/regexp1.html

[6] Udi Manber and Sun Wu (1993)
GLIMPSE: A Tool to Search Through Entire File Systems
http://webglimpse.net/pubs/glimpse.pdf

[7] Udi Manber, Burra Gopal and Sun Wu (1998)
Glimpse Documentation
http://webglimpse.net/gdocs/glimpsehelp.html

[8] 東京大学情報基盤センター 黒田久泰 (2006)
C言語におけるファイル入出力の高速化
http://www.cc.u-tokyo.ac.jp/support/press/news/VOL8/No5/data_no1_0609.pdf

[9] Leena Salmela (2007)
Multi-Pattern String Matching with Very Large Pattern Sets
http://www.dcc.uchile.cl/~gnavarro/workshop07/lsalmela.pdf

[10] Stefan Büttcher (2007)
Wumpus — File System Search
http://www.wumpus-search.org/

[11] Stefan Büttcher (2007)
fschange – Linux File System Change Notification
http://stefan.buettcher.org/cs/fschange/index.html

[12] Stefan Büttcher, Charles L. A. Clarke and Gordon V. Cormack
Information Retrieval Implementing and Evaluating Search Engines
(The MIT Press, 2010)

[13] Ricardo Baeza-Yates and Berthier Ribeiro-Neto
Modern Information Retrieval -- the concept and technology behind search -- second edition
(Addison Wesley, 2011)

[14] Christopher D. Manning, Prabhakar Raghavan, Hinnrich Schütze (訳者: 岩野和生, 黒川利明, 濱田誠司, 村上明子)
情報検索の基礎 (Introduction to Information Retrival)
(共立出版, 2012)

QUICK GUIDE

Namazu

System: Microsoft Windows XP Home Edition
CPUs: Intel(R) Atom(TM) CPU N270 @1.60GHz

Deps: mingw32-base, msys-base, mingw-developer-kit,
msys-groff (bin), msys-man (bin), msys-unzip (bin),
msys-wget (bin), msys-perl (bin), File::MMagic (CPAN),
lynx-cs-setup.exe, tcl82.exe, namazu-2.0.21.tar.gz;
and (optionally) netscape-navigator-9.0.0.6.exe.

$ tar xvf namazu-2.0.21.tar.gz

...

$ cd namazu-2.0.21
$ ./configure \
> --prefix=/usr \
> --sysconfdir=/mingw/etc

...

$ make

...

$ make install

...

$ cd tknamazu
$ ./configure --prefix=c:/mingw/msys/1.0 \
> --bindir=c:/mingw/msys/1.0/bin \
> --sbindir=c:/mingw/msys/1.0/sbin \
> --libexecdir=c:/mingw/msys/1.0/libexec \
> --datadir=c:/mingw/msys/1.0/share \
> --sysconfdir=c:/mingw/etc \
> --localstatedir=c:/mingw/msys/1.0/var \
> --libdir=c:/mingw/msys/1.0/lib \
> --includedir=c:/mingw/msys/1.0/include \
> --infodir=c:/mingw/msys/1.0/info \
> --mandir=c:/mingw/msys/1.0/man \
> --with-namazu=c:/mingw/msys/1.0/bin/namazu.exe \
> --with-mknmz=c:/mingw/msys/1.0/bin/mknmz \
> --with-indexdir=c:/mingw/msys/1.0/var/namazu/index \
> --with-wish=c:/programmer/tcl/bin/wish82.exe \
> --with-lynx=c:/programmer/lynx/lynx.exe \
> --with-groff=c:/mingw/msys/1.0/bin/groff.exe \
> --with-info=c:/mingw/msys/1.0/bin/info.exe \
> --with-zcat=c:/mingw/msys/1.0/bin/zcat.exe \
> --with-netscape='"c:/programmer/netscape/navigator 9/navigator.exe"'

...

$ make

...

$ make install

...

$ exit

In tknamazurc correct the paths for INDEXES1, INDEXES2, and BOOKMARKS1.

hogehoge is Japanese for foobar

Borland Delphi 5 and 7 version (Japanese only) frontends were written for namazu-092 and -093beta by Seiji Yamashita. [srchs092.exe, srchs092-nb.exe, srchs092src.lzh, srchs093beta-0421.lzh]

http://www.syam.net/library/search-s/index.html

Anders Hejlsberg, a Danish software engineer, was the chief architect of the Delphi language, and currently is a lead architect at Microsoft Corp. for the C# language.

Awk

I'll create a delimited file from an agriculture sector* document as a sample for this entry.

This entry will look at awk, a pattern-directed scanning and processing language.

The AWK Programming Language
B.W. Kernighan, P.J. Weinberger,
A.V. Aho, © 1988 Bell Telephone
Laboratories, Incorporated

UNIX Awk: http://www.cs.princeton.edu/~bwk/btl.mirror/index.html
GNU Awk: https://www.gnu.org/software/gawk/manual/
Plan 9: http://man.cat-v.org/plan_9/1/awk

Navn: Institut Français des Productions Cidricoles
Adresse: La Rangée Chesnel, 61500 Sées, Frankrig
Telefon: +33 2 33 27 56 70
Web adresse: http://www.ifpc.eu/

* Varietes_cidricoles.pdf (POMME A CIDRE)

pdftotext version 0.20.2
GNU sed version 4.2.1 (has the -i argument)

sh-4.2$ pdftotext -f 6 -l 6 -layout Varietes_cidricoles.pdf
sh-4.2$ sed -i '12, 16d; s/3 DOUCE/ DOUCE/g; s/2 DOUCE/ DOUCE /g' Varietes_cidricoles.txt
sh-4.2$ head -n 67 Varietes_cidricoles.txt | tail -n +11 \
> | cut -f 41- -d " " > output
sh-4.2$

The resulting file named 'output' is a three column width file, modify the file so
it is single column as appears at the base of this Internet log (blog) post.

Add delimiters to the records excepting the uppercase and blank lines.

sh-4.2$ sed -i 's/ (/:(/g; s/) /):/g; s/[0-9]$/&::/g; s/[a-z]$/&::::/g' output
sh-4.2$

Add data to the fourth fields excepting the uppercase and blank lines.

sh-4.2$ sed -i '2, 15s/::$/:amere:/; 18, 38s/::$/:douce amere:/; 41, 50s/::$/:douce:/' output
sh-4.2$ sed -i '53, 60s/::$/:acidulee:/; 63s/::$/:aigre amere:/; 66, 82s/::$/:aigre:/' output
sh-4.2$

Obtain the names of the registered cultivars.

sh-4.2$ pdftotext Varietes_cidricoles.pdf - | grep ® | sort -u
Chanteline®
Chanteline® 1
Cidor®
Judaine®
Judaine® 1
Judeline®
Judeline® 1
Juliana®
sh-4.2$

Determine if these are also present in our text file.

sh-4.2$ for cultivar in Chanteline Cidor Judaine Judeline Juliana
> do
> grep $cultivar output
> done
Cidor:(4.02 / 25.9):1055:amere:
Judaine:(0.75 / 100.4):1053:aigre:
Judeline:(0.67 / 75.42):1050:acidulee:
Juliana:(1.78 / 154):1061:aigre:
sh-4.2$

Then enter the registered mark as unicode chars in the appropriate records.

sh-4.2$ cat script
4s/$/&®/
55s/$/&®/
72s/$/&®/
75s/$/&®/
sh-4.2$ file script
script: UTF-8 Unicode text
sh-4.2$ sed -i -f script output
sh-4.2$

Delete the uppercase and blank lines.

sh-4.2$ sed -i '1d; 16, 17d; 39, 40d; 51, 52d; 61, 62d; 64, 65d' output
sh-4.2$

Sort the file alphabetically and redirect stdout to a new file.

sh-4.2$ export LC_ALL=fr_FR.UTF-8
sh-4.2$ sort output > varietes_cidricoles
sh-4.2$ exit

The resulting file which will be utilised for exercises with awk
is located in the sidebar.

sh-4.2$ awk -F: '/aigre amere/' varietes_cidricoles
Cazo Jaune:(3.28 / 196.2):1054:aigre amere:
sh-4.2$

sh-4.2$ awk -F: 'NR == 18 { print $1$5 " is a bitter apple." }' varietes_cidricoles
Cidor® is a bitter apple.
sh-4.2$

sh-4.2$ awk -F: 'NR == 23 { gsub("oe", "oë", $1); print }' varietes_cidricoles
Douce Coëtligné (1.83 / 29.09) 1051 douce
sh-4.2$

sh-4.2$ awk -F: 'NR==39 || NR==58 { gsub(/^\(/, "", $2); gsub(/\)$/, "", $2); split($2,a," / "); \
> print $1$5 " has " a[1] " g/l polyphenols and " a[2] " meq/l acidity." }' varietes_cidricoles
Judeline® has 0.67 g/l polyphenols and 75.42 meq/l acidity.
Petit Jaune has 1.2 g/l polyphenols and 110.59 meq/l acidity.
sh-4.2$

Create a CRLF .csv file for use in an MS® spreadsheet.

sh-4.2$ tr ':' ',' < varietes_cidricoles | awk '{ printf "%s\r\n",  $0 }' > varietes_cidricoles.csv
sh-4.2$

One can manually delete in notepad.exe the empty line at the end of the .csv file.

sh-4.2$ cat output
AMERE
C'Huero Briz (4.67 / 30.65) 1056
Chevalier Jaune (3.79 / 33.09) 1053
Cidor (4.02 / 25.9) 1055
Domaines (3.6 / 31.81) 1067
Doux Joseph (3.61 / 31.04) 1058
Fréquin Rouge Petit (5.06 / 36.35) 1065
Jeanne Renard (4.23 / 25.35) 1065
Kermerrien (4.32 / 22.17) 1062
Marie Ménard (4.82 / 32.78) 1061
Marin Onfroy (3.25 / 25.5) 1059
Meriennet
Mettais (3.78 / 25.61) 1063
Petit Amer (4.43 / 29.65) 1055
Tardive de la Sarthe (3.68 / 29.51) 1059

DOUCE AMERE
Antoinette (2.73 / 36.79) 1050
Argile Rouge Bruyère
Bedan (2.27 / 22.04) 1056
Binet Blanc (2.52 / 26.5) 1060
Binet Rouge (2.41 / 26.54) 1063
Binet Violet (2.62 / 24.93) 1050
Bisquet (2.12 / 31.31) 1045
C'Huero Ru
Cartigny (2.21 / 31.26) 1051
Clos Renaux (2.2 / 36.91) 1052
Clozette Douce (2.32 / 33.25) 1054
Douce Moen (2.43 / 31.85) 1061
Doux Lozon (2.13 / 21.21) 1053
Gros Bois (2.86 / 42.15) 1050
Gros Oeillet
Moulin à Vent (2.7 / 38.96) 1061
Muscadet de Dieppe (2.54 / 30.95) 1055
Noël des Champs (2.33 / 22.6) 1050
Omont (2.2 / 29) 1063
Peau de Chien (2.95 / 32.25) 1065
Saint Martin (2.27 / 30.09) 1055

DOUCE
Belle Fille de la Manche
Douce Coetligné (1.83 / 29.09) 1051
Doux au Gober
Doux Evêque Jaune (1.96 / 24.25) 1052
Doux Normandie (1.42 / 24.56) 1065
Doux Veret de Carrouges (1.77 / 24.62) 1055
Muscadet Petit de l'Orne (1.9 / 24.23) 1061
Queue Torte
Rouge Duret (1.65 / 25.3) 1049
Rousse de la Sarthe (1.64 / 25.22) 1056

ACIDULEE
Blanchet (1.28 / 71.4) 1050
Guillevic (1.35 / 86.29) 1059
Judeline (0.67 / 75.42) 1050
Locard Blanc
Pomme de Moi
Rouget de Dol Gros
Sebin Blanc (1.44 / 81.2) 1051
Tesnière (1.56 / 83.97) 1055

AIGRE AMERE
Cazo Jaune (3.28 / 196.2) 1054

AIGRE
Armagnac (1.7 / 121.21) 1065
Avrolles (0.87 / 178.99) 1055
Blanc Sur (1.23 / 99.25) 1055
Diot Roux (1.85 / 146.48) 1052
Gesnot (1.11 / 97) 1049
Jaune de Vitré (1.61 / 132.44) 1060
Judaine (0.75 / 100.4) 1053
Judin (0.89 / 98.24) 1060
Judor (0.73 / 100.63) 1052
Juliana (1.78 / 154) 1061
Jurella (0.61 / 126.7) 1053
Locard Vert
Petit Jaune (1.2 / 110.59) 1055
Pomme de Bouet
Rambault (1.4 / 95.76) 1061
Rénao
René Martin (1.38 / 113.31) 1053
sh-4.2$