MySQL ダンプデータから行単位の抜き出し

間違えて削除した行を復旧するため、ダンプのバックアップデータから特定の行を抜き出すことになった。

条件が簡単なら、mysqldumpだけでもできる。

必要ならダンプデータを別環境にインポートし、
mysqldump -t -u user –where “xxx = xxx” database_name table_name > dump.sql

そして、書き出したファイルをインポート。

***

今回は子テーブルも削除されていてSQLを使いたいので、新しいテーブルにデータをコピーしそのテーブルを書き出すことに。

・(必要なら)ダンプデータを別環境にインポート

・スキーマコピー
create table AA like A

・データコピー
insert into AA select * from A where exists (
select * from B where A.ID = B.ID);
このような感じ(AテーブルをAAテーブルに書き出す時、Bテーブルに特定の値が含まれているかどうか)

・データ書き出し
mysqldump -t -u user database_name tmp_tbl > dump.sql
(Workbenchなら、Server>DataExportから)

・書き出したファイルでテーブル名などを修正してインポート。

Ubuntu(Indigo) 初期設定

IndigoにUbuntuを設定+ローカルにあるSQLiteをIndigo上のMySQLにエクスポートする実験。

インスタンス生成

ダッシュボード>インスタンス管理>インスタンス
からインスタンス生成し、起動する。

表示されているIPアドレスにTeraTermから接続

TeraTerm 起動マクロ

SSH接続

公開鍵方式でのSSH接続、OSでUbuntuを選択すると、自然とユーザー名はubuntuとなる。

公開鍵で、TeraTermとWinSCPで接続できるように設定する。

Ubuntu セキュリティ関連設定

MySQL

・インストール
sudo apt install mysql-server

(インストール後、起動+自動起動するようになっている)

・バージョン確認
sudo mysql –version

・起動、他
sudo systemctl (start|stop|restart|status)  mysql

・my.cnfを探す
sudo mysql –help | grep my.cnf
今回は
sudo vim /etc/mysql/mysql.conf.d/mysqld.cnf

・(外部から接続する場合)bind-addressをコメントアウト。
ここで指定したIPアドレスのみ接続を受け付ける。接続元のIPアドレスがわかる場合は指定しても大丈夫だが、複数のIPアドレスは指定できない。

(my.cnfを変更した場合、再起動)

MySQLのrootアカウントは標準でauth_socket認証しており、パスワード設定しても、パスワード無しでログインできる。ここで少しつまづいた。
(sudo mysql -u rootとすれば入れる)

・文字コード確認
sudo mysql -u root
show variables like ‘char%’;

・文字コード変更

今は最初からutf8mb4になっている。
もしなっていない場合、mysqld.cnfに下記を追加する。

これで、utf8に変わる。

・DB作成
sudo mysql -u root
create database check_sheet character set utf8mb4;

・ユーザー作成

(外部から接続する場合ホストは%としておく)
create user ‘app_user’@’%’;

※同時にパスワードを設定する場合、
create user ‘app_user’@’%’ identified by ‘1234’;
auth_socket認証とする場合、
create user user@host identified with auth_socket;

・ユーザー削除
drop user ‘app_user’@’%’;

・ユーザー一覧
select user, host, authentication_string, plugin from mysql.user;

・権限設定
grant create,drop,alter,select,insert,update,delete on check_sheet.* to ‘app_user’@’%’;

これを実行しないと作成したユーザーでDBが操作できない。

・権限確認
show grants for ‘app_user’@’%’;

・権限削除
revoke all, grant option from ‘app_user’@’%’;

・パスワード設定

シェルからワンライナーの場合
pass=$(head /dev/urandom | tr -dc a-km-np-z1-9 | head -c 13); sudo mysql -u root -e “alter user ‘app_user’@’%’ identified by ‘${pass}'”; echo $pass;

あるいは、
alter user ‘app_user’@’%’ identified by ‘2345’;
set password for ‘app_user’@’%’ = ‘2345’;

MySQL SSL接続

・状態確認
show variables like ‘%ssl%’;

初回起動時に、mysql_ssl_rsa_setup()が実行され、このようにSSLが有効になっていた。MySQLのデータディレクトリ以下に生成される。

ca.pem:自己署名CA証明書
ca-key.pem:CA秘密鍵
server-cert.pem:サーバ用公開鍵
server-key.pem:サーバ用秘密鍵
client-cert.pem:クライアント用公開鍵
client-key.pem:クライアント用秘密鍵
private_key.pem:caching_sha2_password, sha256_password用秘密鍵
public_key.pem:caching_sha2_password, sha256_password用公開鍵

・データディレクトリ確認
show variables like ‘%datadir%’;

(後のコピーでも必要なので、ここで実行)
permission deniedとなるので、
sudo su
を実行する。

・データディレクトリに移動
cd /var/lib/mysql

・コピー+パーミッション変更

データディレクトリから、
client-cert.pem
client-key.pem
ca.pem (必要なら)
をダウンロードするため、先ずホームディレクトリにコピーする。
(これらのファイルはWorkbechで利用するけど、もしC#だけなら、そのまま変換するのでダウンロード不要)

今回は/var/lib/mysql/にあったので、コピーする。
cp /var/lib/mysql/client-cert.pem /home/ubuntu/client-cert.pem;
cp /var/lib/mysql/client-key.pem /home/ubuntu/client-key.pem;
cp /var/lib/mysql/ca.pem /home/ubuntu/ca.pem

・パーミッション変更

ダウンロードするのにパーミッション変更が必要なので、ホームディレクトリ(コピー先)に移動し、
chmod go+r ca.pem;
chmod go+r client-key.pem;
chmod go+r client-cert.pem

のようにする。

これでWinSCPなどでダウンロードできる。

・ユーザー戻す
su ubuntu

・SSLのユーザー状態確認
select user,host,ssl_type from mysql.user;

ssl_typeの部分を確認する。

・権限追加
alter user ‘app_user’@’%’ require X509;

・全ての権限を削除
revoke all, grant option from ‘app_user’@’%’;

requireで指定するオプションについて

・SSL
暗号化接続はサーバーのcert,keyのみなので、クライアントのcert,keyは指定しなくても大丈夫。

・X509
クライアントを証明する必要があるためクライアントにcert,keyを指定する必要がある。

ここの指定とは別にクライアント側からもオプションがある。

・DISABLED
・PREFERRED (default)
サーバが暗号化接続をサポートしている場合は暗号化接続。接続できない場合は通常の接続。
・REQUIRED
サーバー認証を行なって接続する。
・VERIFY_CA
サーバー認証とクライアント認証を行って接続する。

MySQL 外部からの接続

IPアドレスの指定がない、またはIPアドレスの指定をしたいが固定ではない場合、MySQLのbind-addressは複数指定できず、ユーザーのホスト部を頻繁に変更するのも手間なのでufwで弾くのが簡単。

sudo ufw allow 3306/tcp
sudo ufw reload

もしIPアドレスを指定したい場合

sudo ufw allow from IPアドレス to any port 3306 proto tcp
これで、特定のIPのみMySQLに接続できる。

IPアドレスが変更になったら、
sudo ufw status numbered
でNoを確認し、
sudo ufw delete 番号
(複数不可)
で該当ルールを削除し、再度、
sudo ufw allow from IPアドレス to any port 3306 proto tcp
で変更後のIPアドレスを指定する。

Apache+PHP

今回は利用しない。

Ubuntu Apache(PHP+MySQL) 設定

クライアント設定

GCP Cloud SQL(MySQL) 使い方

SQLiteをMySQLへエクスポート

とりあえず動かすためだけの設定で実際は細かく調整する必要がある

DB Browser for SQLiteにて、
ファイル>エクスポート>データベースをSQLファイルへ

・insert into にカラム名を保持
・insert文に複数行(VALUES)
にチェック。

・すべてをエクスポート
・古いスキーマを上書き(DROP TABLE した後に CREATE TABLE)
を選択して保存。(DROPしないと何度か実行するときに作成済みのテーブルが残ったりする)

それぞれデータの内容によって違うが今回は書き出したSQLファイルを下記の通り修正。

・先頭のBIGIN TRANSACTIONをSTART TRANSACTIONに変更。

・全てのダブルクォーテーションの削除。
テーブル名やカラム名がダブルクォーテーションで囲われているため。

・CREATE TABLEで型が抜けている部分にtextを追加。

・全ての型をtextに変更。
insertの部分でint等も空の部分がシングルクォーテーションになっているため

・PRIMARY KEY()を削除。
上の行末のカンマも削除

ファイルサイズが大きいので、WinSCPでアップロードし、
mysql -u root -p db名 < SQLファイル.sql
として実行。
※ちなみに、エクスポートは、
mysqldump –single-transaction -u ユーザ名 DB名 > 出力先ファイル名

Workbenchの場合、
Server>Data Import>Import from Self-Contained File
Default Target Schemaからデータベース名を選択しStart Importを実行。

ERROR 2006 (HY000) at line 1820: MySQL server has gone away
Operation failed with exitcode 1

というエラーがでた場合、
set global max_allowed_packet = 16777216;
(一時的)

インポート後にカラム1つずつデータ型を変更する。
alter table table_name modify column_name int not null primary key auto_increment;
のように処理し、
intに関しては、SQLiteで空文字が入ってしまっているとエラーがでるので、
update table_name set column_name = null where column_name = “”;
このようにした。

 

 

 

Windows上にサーバー作成 Nginx/PHP/MariaDB/WordPress

以前は必要になるとXamppを使ってたけど、今回はNginx環境を手動で作ってみる。

Nginx

Windows用のzipファイルをダウンロードし解凍する。設定ファイルはもともとのコメント部を消して、とりあえずこんな感じ。

nginx-1.19.2/conf/nginx.conf

Nginxフォルダのパスに日本語があると起動しない場合があるので注意。

PHP

ダウンロードして解凍したら、phpというフォルダでnginxの中に入れる。
(nginx-1.19.2/php)

php.ini-development
をコピーしてphp.iniにし、
extension_dir=”ext”
extension=php_mysqli.dll
を追記する。

MariaDB

ダウンロードして解凍したら、mariadbというフォルダでnginxの中に入れる。
(nginx-1.19.2/mariadb)

nginx-1.19.2/mariadb/bin
の中にある、mysql_install_db.exeを実行すると、
nginx-1.19.2/mariadb/data
が作成され、my.iniも入っている。
(Nginxフォルダを移動したらmy.iniを修正しないと起動しない)

手動でDB作成等に使う場合、まずbinの中のmysqld.exeを起動。次にコマンドプロンプトからmysql -u root のような感じでログインできる。

・設定
nginx-1.19.2/mariadb/bin
に移動しmysqldを起動後、
mysql -u root
とするとログインできる。

mysql> set password = password(“1234”);

・データベース作成
mysql> create database wpd character set utf8;
(utf8を指定しないとWPのインストールでエラー)

起動・終了バッチ

start.bat

my.iniを自動で書き換える場合このような感じ

stop.bat

あるいは全て強制終了
(こうしないとプロセスが残る場合あり)

mysql.bat

mysqlのディレクトリに移動するためだけのバッチ

WordPress

nginx-1.19.2\html\wp
にWordPressを解凍したので、ブラウザから、
http://localhost/wp

にアクセス。

DBの情報を入れて送信したところ、
サイトに重大なエラーがありました。
と表示されエラーになった。
(1度目のインストール)

・DBをリセット
フォルダを手動で削除せず、mysqlのコマンドからdrop databaseする。
そして再度create databaseする。

・wp-config.phpを削除
wp-config-sample.phpを複写し、名前をwp-config.phpに変更する。

wp-config.phpが存在しないと自動でwp-config.phpは作成されるが、ここでは手動でwp-config.phpを設定する。

wp-config.phpの以下の部分をtrueに変更する。
define( ‘WP_DEBUG’, true);

以下の部分にDB情報を記入する。
define( ‘DB_NAME’, ‘wpd’ );
define( ‘DB_USER’, ‘root’ );
define( ‘DB_PASSWORD’, ‘1234’ );

再度挑戦するが、
サイトに重大なエラーがありました。
と表示されるだけで、特にエラー内容は表示されない。
(2度目のインストール)

Nginxのログ(logs/error.log)
を確認すると、
Fatal error: Maximum execution time of 30 seconds exceeded
とあるので、
php.iniで下記の部分を30から120に変更
max_execution_time = 120
(3度目のインストール)

これでインストールできた。

LAN経由(外部)から見る場合、ファイアーウォールに新しい規則を追加する。
もしCSSが適用されていない場合は、
設定>一般>アドレス
をIPアドレスに変更してみる。

MySQL alter、select評価順

・準備

create database DB character set utf8;

use DB;

drop table if exists TABLE1;
create table TABLE1(
id int primary key auto_increment not null,
name varchar(255)
) default character set=utf8

・Alter

テーブルのリネーム
alter table TABLE1 rename TABLE2;

列の追加
alter table TABLE2 add column NAME2 varchar(255);

列の変更
alter table TABLE2 change NAME2 NAME3 int;

列の削除
alter table TABLE2 drop NAME3;

作成済みデータベースの文字コード変更
alter database DB character set utf8;

制約の追加方法
alter table TABLE1 add unique (NAME);

ちなみに、primaryとuniqueは複数指定すると、複合になるのでuniqueをそれぞれ複数の列の場合、
create table tbl (id int ,nm varchar(5) , unique(id) , unique(nm));
のように指定。

・制約の種類

not null
check
unique key
primary key
foreign key

・select式の評価順

from
on – join
where
group by
having
select
distinct
order by
top(limit)

・文字列型

https://dev.mysql.com/doc/refman/8.0/ja/char.html

char(n)
固定長で、右側にスペースが埋められる。

varchar(n)
可変長、255を超えてnを指定するとプリフィックスが2バイトとなる。プリフィックス格納されたデータに対するストレージとは別。ストレージについてはtextもvarcharも保存した容量のみ。

両方とも、nはバイトではなく文字数。また、MyISAMとInnoDBでの違いがあるので、注意。5.5未満はMyISAM、5.5以降はInnoDB