プログラミング備忘録

初級プログラマ。python、DL勉強中

2018-01-01から1年間の記事一覧

npm,node,electronのインストールメモ

electronを使ってみようと思いたったもnpm,node,electronがインストールできず 正しく対処できたか不明だが、とりあえずメモを残しておく n とりあえず一通りインストール。npmにはnというパッケージがあってバージョン管理ができる様子 $ sudo apt-get inst…

日本語版wordnet(シソーラス)を使ってみた

ダウンロード 以下よりダウンロード Japanese Wordnet and English WordNet in an sqlite3 database を選択 日本語 Wordnet 設定 ダウンロードしたファイルを回答するだけ。 $gzip -d wnjpn.db.gz 動作 sqliteで読み込み可能 import sqlite3 conn = sqlite3.…

gensim+mecabでコーパスと辞書を作成

gensimでコーパスと辞書を簡単に作成できる機能があったためメモ mecabやgensimの参考は以下 programdl.hatenablog.com ソース from gensim import corpora, models import MeCab NEOLOGD="/usr/lib/mecab/dic/mecab-ipadic-neologd/" tagger=MeCab.Tagger("…

python+kerasを使って、UNETを学習・推論(作業中)

autoencoder,caeと試してきたので、次はunetを触ってみた programdl.hatenablog.com programdl.hatenablog.com イメージ ソース import keras from keras.models import load_model from keras.datasets import cifar10 from keras.layers import Input, Den…

kerasを使って、cifar10をconvolutional autoencoderで学習・推論

前回はMNISTを単純なautoencoderで学習推論してみたが 今回はcifar10を畳み込みオートエンコーダー(convolutional autoencoder)で学習・推論してみた programdl.hatenablog.com ソース from keras.datasets import cifar10 from keras.layers import Input…

python+kerasを使って、MNISTをautoencoderで学習・推論

今更ながらautoencoderを実装してみた。 dataはMINISTを使用 ソース import keras from keras.models import load_model from keras.models import Model from keras.datasets import mnist from keras.layers import Input, Dense from sklearn.model_selec…

Android Studio で導入トラブル

エミュレーターが動かない件 Android Studio でエミュレータが動かなかったが、 どうやらHAXMがインストールできていなかったのでメモ エミュレーターを準備し、実行ボタンを押すも何も反応せず エラーコード1 を出力していた SDKの設定 Toolsタブ > SDK Man…

Python + BeautifulSoup でスクレイピングしてみる

BeautifulSoup でスクレイピングしてみる Google 検索結果 Google検索結果から得られるURLを一覧化する import requests as web import bs4 import csv # キーワード list_keywd = ['機械学習','統計'] query='https://www.google.co.jp/search?num=10&q=' +…

firewallのメモ

ゾーン デフォルトでは9種類のゾーンが存在 drop 全てのパケットを破棄 block 外部からのパケットは基本的に破棄(内部からの通信パケットの返信は許可) public 「ssh」と「dhcpv6-client」のみ許可 external 「ssh」のみ許可 dmz 「ssh」のみ許可 work 「d…

nginxを使ってみた

インストール # vim /etc/yum.repos.d/nginx.repo [nginx] name=nginx repo baseurl=http://nginx.org/packages/mainline/centos/7/$basearch/ gpgcheck=1 enabled=1 gpgkey=http://nginx.org/keys/nginx_signing.key [nginx-source] name=nginx source base…

Blueprintを使って大きなFlaskファイルを分割する

引越しました qiita.com その他 ポートの指定 flaskのデフォルトportは5000番。これを変更するも起動せず。 registeredを使用していたという単純ミスだった 参考 いまさらながら Flask についてまとめる 〜Blueprint〜 - 適当おじさんの適当ブログ

Flaskでsessionを使用する

参考サイトを使用して,session管理について実装してみた from flask import Flask, session, redirect, url_for, request app = Flask(__name__) @app.route('/') def index(): if 'username' in session: return 'Hello ' + str(session['username']) retur…

パスワードの暗号化

DBにユーザ情報を登録する際、セキュリティの観点からパスワードは暗号化しておくべきなのでmd5による暗号化を実施 ソースコード import hashlib mdpass=hashlib.md5("パスワード".encode("UTF-8")).hexdigest() print(mdpass) 実行結果 $ python tmp.py 4bd…

python3でMySqlを使う

事前準備 MySQL-pythonはpython3ではサポートされていないとのことなので以下をインストール pip install mysqlclient これにより MySQLdbをimport できるようになる INSERT import MySQLdb import yaml f=open("./dbinfo.yaml", "r") keydict=yaml.load(f)[…

MySqlを使ってみる

DB確認 mysql> SHOW DATABASES; +--------------------+ | Database | +--------------------+ | information_schema | | db1 | | mysql | | performance_schema | | sys | +--------------------+ 5 rows in set (0.00 sec) DB作成 mysql> CREATE DATABASE …

MySqlをインストール

インストール sudo apt update sudo apt install mysql-server mysql-client rootのパスワードを聞かれるので設定しておく 起動 $ mysql -u root -p 文字コード設定 文字コードはUTF8を使用するよう変更 DBの運用をはじめてからの変更は面倒なので始めに設…

CSSファイルの設計について

迷ったのでメモ 参考 ふわっと ブログ: CSSでレイアウト http://taneppa.net/margin_padding/

sendmailコマンドをつかってみた

ssmtpインストール sudo apt-get install sstmp configファイル設定 sudo vi /etc/ssmtp/ssmtp.conf # 下記追記 or 変更 root=hoge@gmail.com mailhub=smtp.gmail.com:587 rewriteDomain=gmail.com hostname=gmail.com AuthUser=hoge@gmail.com AuthPass=pas…

LDAでトピック分類を行ってみた

LDA(潜在的ディレクトリ配分法、latent dirichelet allocation)を使ってトピック分類を行った。 同じく文章分類を行うことができるナイーブベイズは教師あり学習なのに対して、 LDAは教師なし学習なのでラベルが不要となる。 programdl.hatenablog.com デ…

ナイーブベイズで文章分類をしてみた

引っ越しました qiita.com ベクトル化について fit_transformで特徴量ベクトルを生成する。transformで特徴量ベクトルに従ったサンプル文章のベクトル化を実施 (0,1)= (キーワードリストの配列番号,特徴量ベクトルの配列番号) 参考 検索キーワード を python…

GITメモ

リモートブランチをローカルにもってくる git branch branch1 origin/branch1 ブランチ切り替え git checkout branch1 作業用ファイルを初期状態にもどす(add前) git checkout . タグ付け git tag release_1.1 タグのプッシュ git push origin release_1.1

クラスタリングについてもメモ

Kmeansについての参考 今日から使える! みんなのクラスタリング超入門 from toilet_lunch www.slideshare.net scikit-learnで線形モデルとカーネルモデルの回帰分析をやってみた - イラストで学ぶ機会学習 - Qiitascikit-learn でクラスタ分析 (K-means 法)…

SVMについてのメモ

SVM 参考 scikit-learnのSVMでirisデータセットを分類 | / note.nkmk.me scikit-learnのSVMでMNISTの手書き数字データを分類 | / note.nkmk.me カーネル法 参考 scikit-learnで線形モデルとカーネルモデルの回帰分析をやってみた - イラストで学ぶ機会学習 M…

scikit-learnのメモ書き

できること 分類 linearSVC k近傍法 kernelSVC クラスタリング Kmean トピックモデル(LDA) 回帰 SGD SVR ロジスティック回帰 特徴量抽出 PCA 付属データセット Iris Boston house-prices Diabetes Digits Linnerud 参考 scikit-learn に付属しているデータ…

Cythonを使ってみた

Cythonを使ってみた install pipでinstall可能 pip install cython pyxファイル pyxファイルに実行したいソースを記載 def add(int a,int b): cdef float beta =0.2 return beta+a+b def mlt(int a,int b): cdef float alfa= 0.1 return alfa*a*b Compile se…

cProfileのメモ

pythonの標準ライブラリのプロファイラは3つ hotshot Profile cProfile cProfileを試した時のメモ。 import cProfile cpr=cProfile.Profile() sumi=0 cpr.enable() for i in range(10000): print(i) sumi=sumi+1 cpr.disable() cpr.print_stats()

word2vecを使ってみた

試しにword2vecを使ってみた 引っ越しました qiita.com 参考 【Python】Word2Vecの使い方 - Qiita https://show-go.jp/top/2017/10/25/word2vec_memo/ https://marunouchi-tech.i-studio.co.jp/3705/ word2vecでベクトルから単語を出力する - Qiita Word2Vec…

chainer動かしてみた(作業中)

chainer動かしてみた時のメモ(作業中) 学習 import chainer import chainer.links as L import chainer.functions as F from chainer import optimizers from chainer import training from chainer import iterators from chainer import datasets from c…

MeCabの形態素解析にハマった話

MeCabを使用して形態素解析を行った際に、 surfaceメソッドを使用するも、一部の単語が表示されないことがあった 参考 programdl.hatenablog.com programdl.hatenablog.com 事象 解析文章 以下の文章を解析する 自然言語処理についてのお勉強 解析結果 BOS/E…

matplotに関するメモ

1つのグラフを描画 2つのグラフを描画