Update existing bdr triggers to 'tgisinternal'

New truncate_triggers are created as `tgisinternal` but
exiting ones are not changed. Fix that by doing a one-off
catalog update during the BDR extension upgrade, setting
any existing BDR truncate triggers to internal and appending
their oid to their names to match new triggers.

Further improvement for issue #62

Create BDR's truncate triggers as 'tgisinternal'

Switch from creating triggers using the SPI to using CreateTrigger
directly, marking the new trigger as `tgisinternal` so it's not
dumped by `pg_dump` and not listed by `psql`.

Existing triggers are not updated. A subsequent commit will add
support for updating existing triggers on extension update.

Fixes issue #62

BDR 0.9.2 release notes

Support for upgrading from 0.9.2.0

Don't append 'replication=database' when calling bdr_test_replication_connection()

This causes calls to bdr_subscribe() (UDR) to fail with this error:

    FATAL:  could not fetch database oid: ERROR:  syntax error
    CONTEXT:  SQL statement "SELECT * FROM bdr_test_replication_connection(remote_dsn || ' replication=database')"

The comment for bdr_connect() explictly says the provided conninfo string should not
contain a replication= parameter; "replication=database" is automatically appended.

For some reason this did not cause any problems in BDR mode with bdr_group_join(),
which also calls bdr_test_replication_connection().

Only install bdr.bdr_internal_sequence_reset_cache() in BDR mode

bdr_seq.c not compiled for UDR; attempting to create this function
in UDR mode prevents the extension from being installed.

doc: fix typo

doc: BDR/BDR -> BDR/UDR

doc: clarify UDR build process

Normalize file header

doc: fix markup

Use bdr_find_other_exec() for BDR_INIT_REPLICA_CMD too

doc: minor copy-editing/tweaks to sequence voting docs

doc: Improve the sequence voting docs.

Fix comment in bdr_supervisor_rescan_dbs()

pg_seclabel -> pg_shseclabel

Revert "Don't check for presence of a PRIMARY KEY if not replicating rows"

This reverts commit 15abe5e5946c1542ecf43b42c69ba03c984d199f as the
initial change was too naïve.

The check shouldn't be within the loop.

It should run after the DDL lock check, since it could change data
in the table in ways that means the incoming DDL might not apply
anymore, e.g. inserting a NULL value into an otherwise NULL-free
table at the same time an
  ALTER TABLE ... ALTER COLUMN ... SET NOT NULL
comes in.

It's also necessary for it to be skipped if the node is read-only
so a check like  && !node_read_only is needed.

Trivial whitespace alignment fix

Fix debug message left in new join code

Permit DML on pg_catalog tables

Because many pg_catalog tables don't have a PRIMARY KEY we were
rejecting DML on them. Since pg_catalog writes don't get replicated
anyway, it's safe to permit such writes.

Fixes #102

Don't check for presence of a PRIMARY KEY if not replicating rows

bdr_init_copy: clean the sequence amdata cache on new node

Fixes #101

Add function to clear sequence's amdata

Function bdr.bdr_internal_sequence_reset_cache(regclass) sets the amdata
of the sequence to NULL and schedules sequencer wakeup.

This is first step for implementing GH #101.

bdr_init_copy: O_CREAT requires 3 param open()

Check for zero exit codes

Also fix program name in logging output

Pre-create bdr_init_copy log before base backup

If bdr_init_copy's CWD isn't writeable then it'll bail out when
it first tries to start PostgreSQL, after it's already done the
base backup.

Fixes #99

Check exit status of pg_resetxlog and pg_basebackup

bdr_init_copy wasn't checking exit status from pg_resetlog,
and was doing so incorrectly - though harmlessly - for
pg_basebackup.

Related to #100

Check return values for pg_ctl invocations in bdr_init_copy

Fixes #100

Highlight replication sets fix in 0.9.1 relnotes

Spelling in PRIMARY KEY error

Expose bdr_do_not_replicate GUC for other compilation units

doc: add --replication_sets option for bdr_init_copy

doc: add missing '=' to bdr_init_copy parameters

Fix copy pasto in previous commit

Make sequence pernode cache configurable

Reloption cache_chunks added which sets how many chunks should be voted
for and cached on each node.

bdr_init_copy enhancements

Add --replication-sets command line parameter.
Specifies which replication sets to use for the new node. If not
specified the bdr_init_copy will check if all nodes in the bdr cluster
use same replication sets and use that one for the new node
automatically (instead of default). If the existing nodes don't all use
same replication sets it will throw error unless --replication-sets was
specified.

If the local data directory contains PostgreSQL data folder, check if
the system identifier is same as the system identifier of the remote
node. (GH #91)

When the remote node has multiple BDR activated databases make new
connections to all of them from the new local node. (GH #88)

Correctly set node_local_dsn for the new node.

Document -v option for increasing verbosity in --help output.

bdr_init_copy: only treat dbname as connstr if it's in connstr format.

doc: Fix typo

Add missing schema qualification

Improvements to BDR/UDR join sanity checking

This is a set of related changes to the init/join
processes, focused on sanity checks and robustness
when joining nodes.

Introduces extension rev bdr 0.10.0.5.

* Expose bdr_internal_create_truncate_trigger function
  to add the bdr truncate_trigger to a table. Use it
  from bdr_truncate_trigger_add.

* Use bdr_truncate_trigger_add in bdr_group_join to
  create truncate triggers on all existing tables
  when BDR gets enabled. Previously we'd fail to
  replicate TRUNCATE for tables created before
  CREATE EXTENSION bdr; was run.

* Fix broken prototype for bdr_truncate_trigger_add

* In bdr_group_join prohibit enabling BDR where
  exclusion constraints exist in the database's
  current state. Previously you could get a BDR
  db with exclusion constraints and/or a broken
  clone by creating a table with exclusion constraints
  before enabling BDR.

* In bdr_group_join, warn users if there are
  secondary unique indexes on tables, as currently
  we can't do last-update-wins conflict handling
  on tuples that violate multiple unique constraints.
  See issue #95. Still permit join to continue.

* Warn users about missing PRIMARY KEYs, but
  permit join to continue, as it's legal to
  have no PK on an INSERT-only table.

* In bdr.internal_begin_join, use
  bdr_test_replication_connection to test the remote
  DSN in replication mode and make sure that pg_hba.conf
  permits connection in replication mode. Fixes #94.

Fix outdated comment in bdr_get_remote_nodeinfo

Tests show that truncate triggers are created before bdr_group_create

See #93

Document that UPDATE and DELETE require a PRIMARY KEY

Fixes #84

Flesh out the conflicts docs

Fix docs structure errors, a few cleanups

Remove duplicate conflicts info

Add our own function for finding Postgres binaries

We need our own function because the built-in function compares the
binary version including the minor version and since BDR is an extension
it's not realistic to support every possible version combination. The
BDR specific function for finding and validation of Postgres binaries
doesn't do version validation but instead returns major version in the
PG_VERSION_NUM format so it can be easily compared by the caller as
needed.

The pg_dump and pg_restore in bdr_init_replica and pg_ctl and
pg_basebackup check in bdr_init_copy are using the function now.

Don't insert node in bdr_init_copy in UDR mode.

Fix DROP replay of functions with no parameters.

Explain that you can't part a node from its self

Reject attempts to part from self, detect part from absent node

Reject attempts to part a node from its self. This seems like
a sensible thing to do, but we need to remove a node using another
node so that all peers find out about the removal.

Detect when asked to part a nonexistent node and complain instead
of silently doing nothing.

Also warn when asked to part a node that isn't in 'r' state.

Improve error message on insert/insert multi-unique conflict

More explanation of conflict types

doc: fix typo

Assertion fixes

Add documentation for bdr_get_local_nodeid()

Fix doc references for bdr_get_local_node_name()

Add missing 'bdr_' prefix

Add bdr_unsubscribe()

Fix some compiler warnings

Documentation Typo

Several documentation corrections

Add missing header

Change bdr_nodes_get_local_info from SPI to heap scan to avoid starting transaction.

Missing extension file

Document that bdr_initial_load exists but is internal

Closes #76

Correct --help output for bdr_initial_load

Per report in #76

On second thought use session cache for bdr_nodes.

This is how rest of postgres does it. The shmem cache is probably
slightly better performance-wise but it's somewhat abusing the shmem.

The node access API could use some rethinking after this - standard
access should probably go via cache. We should also avoid SPI probably.
But both of these are left for future patches.

In passing activate the read_only regression test which was previously
not added to Makefile by mistake.

Build instructions changes for UDR

Closes #74

Add missing files for previous commit

Add read-only nodes.

Read-only node does not allow writes to permament objects.

Upgrade support for 0.9.1.0

Release notes for 0.9.1

Add bdr.bdr_apply_is_paused() information function

This makes it possible to see whether replay is paused on
a node.

Also adds some tests for pause/resume.

Closes #59

doc that bdr.bdr_replicate_ddl_command takes fully qualified name

Closes #70 by documenting that bdr.bdr_replicate_ddl_command requires
fully qualified objects.

Update bdr_dump to include setval fixes

Update bdr_dump from bdr-pg/REL9_4_STABLE to include:

3ab2f78 Don't dump setval(...) for 'bdr' sequences
1592812 Only dump non-default sequence access methods

Update bdr_dump to 9.4.2 + --snapshot

Update copy of pg_dump with snapshot support for UDR to the
version from bdr-pg/REL9_4_STABLE . We can't use stock pg_dump
because we need support for dumping from a pre-established
snapshot, which is added in the BDR tree.

Add backwards compatibility to the DDL locking

This ensures that DDL locking will work in bdr cross-version environment
for smoother upgrades.

fixup! Add update path from 0.9.0.5 to 0.10.0.0

The Makefile.in must also know about the new files

Add update path from 0.9.0.5 to 0.10.0.0

commit 401d117, bdr.table_set_replication_sets ...
introduces 0.9.0.5 and we need a path from it to 0.10.0.x.

bdr: Send pgstat upon replayed commit in apply process.

Previously it was only sent at apply worker shutdown.

bdr: Improve sequencer locking and pgstat reporting.

Up to now the sequencer locked its relations exclusively to prevent an
interlock with apply. That was problematic, because it would often
prevent auto vacuum/analyze from running, or interrupt it.

Instead of locking the underlying relations lock the bdr seqam object
and add code to apply to also acquire that lock. That allow autovacuum
to run undisturbed.

Testing brought an additional problem to light, namely that pgstat
records weren't sent in the sequencer until shutdown, which means that
in many situations autovacuum won't be trigger in time. This is a more
widespread problem than just the sequencer, but here only the sequencer
is fixed.

bdr: Adjust database name in debug message.

bdr: Add minimal checks for the cloning of databases with contents.

These should be expanded, but are better than nothing.

Add the 0.10.0.2 to Makefile

bdr.table_set_replication_sets should permit unsafe commands

In 4005c1d bdr_replicate_ddl_command was changed not to override the
command filter, but this broke replication sets in UDR, since they have
to use SECURITY LABEL.

SET bdr.permit_unsafe_ddl_commands on bdr.table_set_replication_sets
since it knows what it's doing.

Fixes #67

Note: The ddl/replication_sets tests cannot be run as-is on UDR because
UDR does not replicate changes to replication sets. We really need
separate tests for this that cover UDR (or BDR+subscribe).

Don't specify the sequence am in UDR.

The initial cloning needs more tests, including data, but that requires
larger changes to several tests than I want to do in the fix commit
itself.

Fixes #69

Initial code to actually remove slots when parting a node.

This removes a slot when
a) It is of a remote node that has been parted.
b) We have been parted, and there are remote slots. It is not guaranteed
   that we're notified of that case, but it seems worthwhile to handle
   nonetheless.

fixup! Add a test for node part

Didn't check in the expected/ data

Fix UDR after BDRLockType introduction in 10b331fea

Better error message if PG_CONFIG is nonsense

Use correct replication set and apply delay config in apply.

Add a test for node part

This shows that the slots are currently _not_ correctly dropped.

Use the new lesser form of global lock for some of the DDL commands.

Add support for more levels of global locks.

The old ddl_lock was replaced by ddl_lock and write_lock.
The ddl_lock now only locks database against concurrent DDL but not
against writes anymore. The write_lock locks against writes the same way
old ddl_lock used to. We support upgrading the ddl_lock to write_lock at
some performance penalty (the lock needs to be negotiated again).

Fix broken supervisordb test

Make DML operation wait when there is DDL in progress.

Previously, we immediately raised ERROR when executing DML while DDL
lock was being acquired or held. Now we just keep them waiting until
either the lock is released or statement_timeout kills them.

Update isolation tests accordingly.

Don't immediately kill all transactions when acquiring DDL lock.

Previously we just canceled all transactions in database when acking DDL
lock. This code only cancels transactions which did any writes and gives
them some time (currently hardcoded to 10s) of grace period to finish
what they are doing.

Prevent users from connecting to bdr_supervisordb

This won't stop bgworkers, but they should hopefully know better.

Prevent attempts to create/drop/rename  bdr_supervisordb

When the BDR extension is loaded, BDR its self can create
bdr_supervisordb, but applications cannot. This gives users
a better error message if they try to drop it, too, e.g.

DROP DATABASE bdr_supervisordb;
ERROR:  The BDR extension reserves the database name bdr_supervisordb
for its own use
HINT:  Use a different database name

fixup! Prevent taking the DDL lock without explicit authorization

Per internal discussion, make bdr.permit_ddl_locking true by default.